Character.ai가 파산 절차에 들어서면서 이용자의 대화와 개인정보가 다른 기업에 팔릴 수 있다는 우려가 커졌다. 전문가들은 AI 서비스를 쓰지 않는 사람도 주변 사람에 관한 대화에 언급돼 데이터에 포함될 수 있다며, 민감한 정보를 맡긴 서비스의 데이터를 삭제하라고 조언한다.
Character.ai는 자산 일부를 디즈니에 2,000만 달러(1,495만 파운드)에 매각하기로 했지만, 이용자 데이터는 이 거래에 포함되지 않았다. 그러나 법원 제출 서류에는 회사가 데이터를 다른 구매자에게 팔 수 있다고 적혀 있다. 미국 40개 주 법무장관 연합은 판사에게 아동 안전과 개인정보 보호 조치를 마련하라고 요청했지만, 미국의 개인정보 보호 법률이 더 강해지지 않으면 요구가 실효성을 갖기 어렵다는 지적도 나온다.
전자프라이버시정보센터(Epic)의 AI·인권 프로그램 책임자 칼리 슈뢰더(Calli Schroeder)는 의인화된 챗봇과 대화할 때 개인적이고 민감한 정보를 더 많이 털어놓는 경우가 있다고 말했다. 친구나 가족에 관한 정보도 대화에 담길 수 있어 해당 서비스를 사용하지 않은 사람까지 데이터에 포함될 수 있다는 설명이다.
파산 때 데이터가 매각되는 일은 새롭지 않다. 다만 Character.ai의 개인정보 처리방침은 이용자 데이터를 새 기능 개발과 AI 모델 훈련, 알고리즘 개발, 맞춤형 광고를 위한 이용자 프로필 작성에 활용할 수 있다고 명시한다. 노스캐롤라이나대학교 채플힐 캠퍼스의 멜리사 제이코비(Melissa Jacoby) 법학 교수는 파산 시 개인정보 보호 약속의 상당 부분이 적용되지 않을 수 있다고 지적했다. 유럽연합처럼 보호 규정이 더 강한 지역에서도 파산 과정의 데이터 매각은 가능하며, 구매자는 일반적으로 기존 개인정보 처리방침을 따라야 하지만 그 방침이 폭넓은 이용을 허용할 수 있다.
Character.ai 챗봇이 이용 시간 제한을 두고 한 청소년에게 부모를 죽이라고 부추겼다는 보도와, 14세 소년이 회사 AI의 영향을 받았다고 주장된 뒤 스스로 목숨을 끊은 사건도 있었다. 회사 대변인은 관련 소송을 합의로 마무리했으며 더 안전한 제품을 만들기 위해 유족과 협력하고 있다고 밝혔다. 아동 개인정보 보호에 관한 구체적인 질문에는 답하지 않았다고 BBC는 전했다.
Character.ai는 파산 발표에서 계정과 데이터를 삭제하는 방법을 안내했다. 서비스마다 절차는 다르지만 개인정보 설정이나 개인정보 처리방침에서 삭제 방법을 찾을 수 있고, 확인이 어려우면 고객 지원에 문의할 수 있다. 이용을 중단한 서비스 가운데 민감한 정보를 보유한 곳이 있는지 살펴보고 삭제를 시도하는 것이 전문가들의 조언이다.
AI 업계가 거품일 수 있다는 우려도 데이터 매각 위험의 배경으로 제시됐다. AI 도구의 개발과 운영 비용이 매우 높아 일부 기업은 수익을 내지 못할 수 있으며, 업계가 위축되면 기업이 합병하거나 문을 닫을 수 있다는 분석이다. 슈뢰더는 AI 기업이 보유한 정보가 파산 절차에서 매력적인 자산으로 취급될 수 있다고 우려했다.
관련 보도: Character.ai 챗봇과 아동 관련 보도, 펜실베이니아주의 가짜 의료 주장 관련 조치, 14세 소년의 사망 관련 보도, Character.ai 법원 제출 서류.
댓글 (0)
로그인하면 이 기사에 내 생각을 남길 수 있어요