앤스로픽은 미국 증시 상장을 앞두고 인공지능(AI)이 인류에 재앙적이거나 실존적인 위험을 초래할 수 있다고 경고했다. 회사는 상장 세부 내용을 담은 서류에서 AI 안전 문제와 재무 상황, 사업 위험을 공개했다.
앤스로픽은 나스닥에 ANT라는 종목 코드로 상장할 계획이다. 아직 발행 주식 수와 가격 범위, 상장 날짜는 밝히지 않았다. 기업가치는 여름에 약 1조8000억 달러의 최초 평가액으로 역대 최대 상장을 기록한 스페이스X를 넘어설 것으로 예상된다. 스페이스X의 최초 기업가치 관련 보도
회사는 올해 상반기 매출 163억 달러(122억 파운드)를 기록했지만, 손실은 807억 달러를 넘었다. 앤스로픽은 상장 서류에서 정책 담당자와 규제기관, 연구자뿐 아니라 조직 내부에서도 AI 시스템이 인류에 중대한 위험을 제기한다는 우려가 나왔다고 밝혔다.
앤스로픽은 적절한 안전장치와 감독, 보안 조치 없이 고도화된 AI 시스템을 개발·배포·운영하면 인류에 재앙적이거나 실존적인 위험을 초래할 수 있다고 경고했다. 특히 시스템이 오용되거나 복제·무기화되거나 높은 자율성으로 작동하도록 방치될 경우 위험이 커질 수 있다고 덧붙였다.
앤스로픽은 클라우드 컴퓨팅 제공업체 일부와 수요가 이미 큰 대만의 칩 제조사, 미국에 집중된 데이터센터에 의존하는 점도 위험 요인으로 꼽았다. 어린이나 자살 위험이 있는 사람과 관련한 AI 피해로 규제 조치를 받을 가능성, AI 시스템의 행동에 대해 어디서 어떤 방식으로 법적 책임을 질지 불확실하다는 점도 공개했다.
회사는 상반기 매출보다 큰 손실을 기록했지만, 처음에는 무책임하게 큰 투자처럼 보일 수 있는 선제 투자를 자주 할 것이라고 밝혔다. 앤스로픽은 가장 앞선 AI 모델을 개발하는 능력이 성공에 크게 좌우되며, 이에 실패하면 사업에 악영향을 줄 수 있다고 설명했다.
앤스로픽은 AI가 생물학과 의학의 발전을 크게 앞당겨 암과 알츠하이머병 치료법을 찾는 데 기여할 수 있고, 생산성을 높여 경제성장을 지속적으로 가속할 수도 있다고 전망했다. 회사는 AI가 인간의 모든 활동 분야를 바꿀 수 있는 수백만 개의 가상 에이전트를 가능하게 할 수 있다고도 밝혔다.
투자운용사 Raymond James Investment의 수석 시장전략가 맷 오턴(Matt Orton)은 투자자들이 앤스로픽의 빠른 성장과 큰 재무 손실을 모두 예상해 이번 서류 공개가 놀랍지는 않을 것이라고 BBC에 말했다. 그는 서류를 통해 매출 증가가 어디서 나오는지 시장이 더 분명히 파악할 수 있을 것이라고 덧붙였다.
앤스로픽은 다리오 아모데이(Dario Amodei) 최고경영자와 그의 여동생 다니엘라 아모데이(Daniela Amodei), 그 밖의 다섯 명이 5년 전에 설립했다. 회사는 6월 상장 의사를 밝혔고, 경쟁사인 오픈AI도 뒤이어 상장 계획을 발표했다. 오픈AI의 상장은 내년 초로 예상된다고 계획을 아는 관계자가 전했다. 앤스로픽의 상장 계획
상장 계획 발표 뒤 두 회사의 AI 에이전트와 관련된 사이버 보안 등 기술 침해 사례가 잇따랐다. 두 회사의 전·현직 직원들도 AI 기술이 미래의 피해로부터 인류를 보호할 능력 없이 개발되고 있다고 경고했다. 상장 계획이 공개된 월요일에는 엘비스 프레슬리 음악 저작권자들이 클로드를 훈련하는 데 그의 노래 수백 곡을 사용했다며 앤스로픽을 상대로 소송을 제기했다. 엘비스 프레슬리 음악 저작권자들의 소송
댓글 (0)
로그인하면 이 기사에 내 생각을 남길 수 있어요