디즈니는 Character.ai의 일부 지식재산 사용권을 얻는 대가로 2천만 달러를 지급하기로 했다. 청소년 안전과 저작권 관련 소송에 직면한 Character.ai는 챕터 11 파산을 신청했으며, 올해 말까지 법원의 감독 아래 매각을 추진한다. 매각이 성사되지 않으면 플랫폼 운영을 중단할 수 있다고 밝혔다.
캘리포니아주 멘로파크에 본사를 둔 Character.ai는 이용자가 유명인, 역사적 인물이나 가상 캐릭터를 흉내 내는 챗봇을 만들고 대화할 수 있는 앱을 운영한다. 구글 출신 엔지니어들이 약 5년 전 설립했으며, 2023년 기업가치가 10억 달러에 이르렀다. 회사는 월간 활성 이용자가 2천만 명을 넘고, 매각 절차가 진행되는 동안에도 플랫폼은 평소처럼 운영된다고 밝혔다.
부모들은 여러 주에서 Character.ai의 챗봇이 자녀의 정신 건강을 해쳤다고 주장하며 소송을 냈다. 2024년에는 플로리다주에 사는 메건 가르시아(Megan Garcia)가 14세 아들이 자살한 뒤 Character.ai와 구글, 모회사 알파벳을 상대로 소송을 제기했다. 소장에 따르면 아들은 자살 생각을 드러냈지만 회사가 부모에게 알리거나 도움을 제공하지 않았다. Character.ai는 안전을 중요하게 여긴다고 밝혔고, 플랫폼에서 미성년자에게 적용되는 제한을 새로 도입했다. 올해 초에는 콜로라도주, 플로리다주, 텍사스주, 뉴욕주 등의 가족이 제기한 여러 소송을 구글과 함께 합의하기로 했다.
저작권 침해 주장도 제기됐다. 지난해 디즈니가 법적 조치를 예고하는 서한을 보낸 뒤 Character.ai는 엘사와 다스 베이더 등 디즈니 캐릭터를 흉내 내는 챗봇을 삭제했다. 디즈니 캐릭터 챗봇 삭제 관련 보도
Character.ai는 블로그 게시물에서 중대한 법적·규제·운영상 어려움 속에서도 사업을 유지하고 개선하기 위해 조치를 취했다고 밝혔다. 회사는 법원의 감독 아래 진행되는 매각에서 플랫폼 운영을 이어갈 수 있는 실행 가능한 제안이 나오기를 기대한다고 설명했다. 최고경영자 콜린 애덤스(Colin Adams)는 매각 절차 중에도 이용자의 안전과 만족스러운 경험을 우선하겠다고 말했다.
챗봇의 청소년 정신 건강 영향을 둘러싼 소송은 캘리포니아주 정치권이 플랫폼의 AI 챗봇을 더 안전하게 만들기 위한 법안을 통과시키는 계기가 됐다. Character.ai는 안전 문제에 대응하는 과정에서 경영진도 바뀌었다. 전 페이스북 임원 카란딥 아난드(Karandeep Anand)는 최고경영자로 합류했지만, 올해 디즈니가 그를 첫 최고기술책임자로 영입한 뒤 회사를 떠났다.
자살 생각으로 어려움을 겪는 사람이나 주변 사람은 전문가에게 도움을 요청하거나 미국의 정신건강 위기 상담 전화 988에 연락할 수 있다. 미국과 캐나다에서는 ‘HOME’을 741741로 문자 보내 위기 상담을 받을 수 있다. 도움이 필요한 사람을 위한 정신 건강 자원
댓글 (0)
로그인하면 이 기사에 내 생각을 남길 수 있어요