호주 정부가 온라인 유해를 줄이기 위해 기술 기업에 디지털 주의 의무를 부과함

TL;DR

• 호주 연방정부가 온라인 유해를 줄이기 위해 Meta·Google·X 등 기술 기업에 디지털 주의 의무(digital duty of care)를 부과할 계획이며, 플랫폼이 유해 콘텐츠를 사전에 식별·제거하도록 책임을 이전하는 방안임
• 제안된 의무는 콘텐츠 규제에만 의존하는 방식에서 벗어나 시스템 기반 예방과 온라인 유해 범주의 확대를 요구하는 방향임
• 기술 기업은 정기적인 위험 평가를 실시해 청소년·정신적 웰빙·유해 행위의 지시 및 조장·불법 콘텐츠와 활동을 식별해야 함
• 16세 미만 소셜미디어 이용 금지는 성숙도 차이와 유해 콘텐츠 대응 교육 기회를 고려하지 못하지만, 디지털 주의 의무는 유익한 콘텐츠와 온라인 커뮤니티 접근을 막지 않고 위험을 줄이는 방식임
• 구체적인 벌금과 신고 절차는 아직 정해지지 않았으며, 영국과 유럽연합의 사례처럼 유해의 정의와 집행 세부사항을 확정하는 과정이 핵심 과제임

호주 정부의 디지털 주의 의무 도입 계획

• 연방정부가 디지털 주의 의무를 부과할 계획을 발표하며 빅테크와의 대립을 확대하는 흐름임
• 이번 발표는 16세 미만 청소년의 소셜미디어 이용을 금지하려는 계획과 Google·Facebook·Instagram·X·TikTok 등 디지털 플랫폼에 더 엄격한 규칙을 적용하려는 계획에 뒤이은 조치임
• 해당 규칙은 허위정보(misinformation)와 악의적 허위정보(disinformation)에 대응하는 내용을 포함함
• 통신부 장관 Michelle Rowland가 디지털 주의 의무 도입 배경을 다음과 같이 설명함

필요한 변화는 콘텐츠 규제에만 의존해 유해가 발생한 뒤 대응하는 방식에서 벗어나, 온라인 유해에 대한 관점을 넓히면서 시스템 기반 예방으로 이동하는 것임

• 이러한 접근은 긍정적인 진전이며 전 세계 다른 관할권의 방향과도 일치함

‘디지털 주의 의무’의 의미

• 주의 의무(duty of care)는 다른 사람의 안전을 보장해야 하는 법적 의무임
• 단순히 해를 끼치지 않는 데 그치지 않고, 유해를 방지하기 위해 합리적인 조치를 취하는 의미까지 포함함
• 제안된 디지털 주의 의무는 Meta·Google·X 등 기술 기업에 온라인 플랫폼 이용자를 유해로부터 보호할 책임을 부과함
• 이는 물리적 제품을 제조하는 기업이 제품으로 이용자에게 유해가 발생하지 않도록 최선을 다해야 하는 기존의 주의 의무와 소셜미디어 플랫폼을 같은 기준에 놓는 방식임
• 기술 기업은 유해 콘텐츠를 사전에 식별하기 위해 정기적인 위험 평가를 실시해야 함
• 위험 평가는 Rowland가 ‘지속적인 유해 범주(enduring categories of harm)’라고 부른 항목을 고려해야 하며, 해당 범주도 법률로 규정될 예정임
• 청소년에 대한 유해
• 정신적 웰빙에 대한 유해
• 유해한 관행에 대한 지시와 홍보
• 그 밖의 불법 콘텐츠·행위·활동
• 이러한 접근은 최근 온라인 안전법 검토에서 권고된 내용임
• 영국의 온라인 안전법과 유럽연합의 디지털 서비스법에 따라 이미 세계 다른 지역에서 시행 중인 방식임
• 두 법은 플랫폼 이용자 보호 책임을 기술 기업에 부과하는 동시에, 유해 콘텐츠에 대응할 권한을 소비자에게도 부여함
• 유럽연합에서는 소비자가 유해 자료에 대해 온라인으로 직접 신고할 수 있으며, 기술 기업은 해당 신고에 법적으로 대응해야 함
• 기술 기업이 콘텐츠 삭제를 거부하면 이용자가 디지털 서비스 조정기관(Digital Services Coordinator)에 신고해 추가 조사를 요청할 수 있음
• 만족스러운 결과에 도달하지 못하면 법원의 판단을 구하는 절차도 가능함
• 유럽연합 법에 따르면 기술 기업이 소비자에 대한 주의 의무를 위반할 경우 전 세계 연간 매출의 최대 6%에 해당하는 벌금을 부과받을 수 있음
• 호주의 Human Rights Law Centre도 디지털 주의 의무를 지지하며, “디지털 플랫폼은 모든 이용자에게 법률로 규정된 주의 의무를 져야 함”이라고 밝힘
• 정부 제안은 Facebook 등 기술 기업이 온라인 유해 자료를 사전에 제거하도록 책임을 부과하는 방식임
• 관련 이미지 설명은 Gil C/Shutterstock임

소셜미디어 금지보다 적절한 이유

• 여러 전문가가 16세 미만의 소셜미디어 이용을 금지하려는 정부 계획의 문제를 지적했으며, 그중에는 이 견해를 제시한 당사자도 포함됨
• 일률적인 연령 요건은 청소년마다 다른 성숙도 수준을 고려하지 못함
• 청소년의 소셜미디어 이용을 단순히 금지하면 온라인 유해 콘텐츠에 노출되는 시점만 늦춰질 뿐임
• 부모와 교사가 해당 플랫폼에서 아동과 소통하고 잠재적인 유해를 안전하게 관리하도록 돕는 기회도 사라짐
• 정부가 제안한 디지털 주의 의무는 이러한 우려에 대응하는 방식임
• 기술 기업이 온라인 환경을 더 안전하게 만들도록 강제하며, 자해를 조장하는 이미지나 동영상 같은 유해 콘텐츠를 제거하는 내용을 포함함
• 동시에 청소년이 잠재적으로 유익한 자료나 온라인 사회 공동체에 접근하는 것을 금지하지 않는 방식임
• 디지털 주의 의무는 허위정보와 악의적 허위정보 문제에도 대응할 가능성이 있음
• 호주가 국제 관할권의 선례를 따르는 점도 중요함
• 이는 이용자가 아니라 기업에 주의 책임을 부과해 플랫폼에 등장하는 유해 콘텐츠에 대응하려는 전 세계적인 공동 추진이 존재함을 보여줌
• 여러 국가가 유사한 통제와 콘텐츠 기준을 동시에 도입하면 기술 기업이 법률을 준수할 가능성이 커짐
• 관련 사진 설명은 Mick Tsikas/AAP임

집행 방식

• 호주 정부는 디지털 주의 의무를 강하게 집행할 계획임
• Rowland 장관이 다음과 같이 밝힘

플랫폼이 주의 의무를 심각하게 위반하고 시스템 차원의 실패가 발생하는 경우, 규제기관이 강력한 제재 체계를 활용할 수 있도록 보장함

• 구체적인 제재 체계는 아직 발표되지 않음
• 이용자가 온라인에서 본 유해 콘텐츠의 삭제를 요청하기 위해 규제기관에 신고하는 방식도 아직 공개되지 않음
• 영국에서는 법률 시행 방식과 관련한 여러 우려가 제기됨
• 이는 호주와 다른 지역에서 성공하려면 세부사항을 정확히 설계하는 과정이 중요함을 보여줌
• 무엇이 유해에 해당하는지 정의하는 일은 지속적인 과제이며, 신고나 법원 절차를 통해 시범 사건이 형성되어야 할 가능성이 있음
• 유럽연합과 영국이 관련 법률을 도입한 시점이 모두 지난 1년 안이므로, 기술 기업의 준수 수준을 포함한 법률의 전체 영향은 아직 확인되지 않음
• 궁극적으로 유해 콘텐츠를 발생 지점에서 제거하도록 기술 기업에 책임을 이전하는 정부의 방향은 환영할 만한 조치임
• 해당 방식은 청소년과 성인 모두에게 소셜미디어 플랫폼을 더 안전한 공간으로 만드는 접근임

원문 링크

• Australia will impose a digital duty of care on tech companies to reduce online harm – it’s a good idea if it can be enforced