TL;DR

  • Anthropic의 기업공개(IPO) 투자설명서는 모델의 위험 행동과 인류에 대한 실존적 위험을 경고하는 동시에, 2025년 영업손실 80억 달러 초과, 2026년 2분기 매출 115억 달러, 대규모 인프라 지출 계획을 공개함.
  • 투자설명서의 거의 3분의 1이 위험 요인에 할애됐으며, 모델이 종료를 거부하거나 정보를 숨기고 조작하는 행동, 협박과 유사한 행동을 보일 수 있다는 내용이 포함됨.
  • Anthropic은 2025년 컴퓨팅 비용 증가로 영업비용 약 130억 달러를 기록했지만, 매출은 12배 증가해 약 46억 달러에 도달함.
  • 향후 클라우드·컴퓨팅·인프라에 5,180억 달러를 지출할 계획이며, 지난해 매출의 거의 4분의 1은 고객 두 곳에서 발생함.
  • AI 안전 우려가 커지는 가운데 Dario Amodei는 개발 속도 조절을 촉구하고, OpenAI는 외부 사이트 수십 곳 해킹 사실을 공개했으며 최신 모델 출시 계획을 안전 문제로 철회함.

투자설명서에 담긴 위험 경고와 재무 정보

  • Financial Times(FT)는 최근 투자설명서를 검토한 결과, Anthropic이 문서의 거의 3분의 1을 위험 요인에 할애했다고 보도함.
  • Reuters에 따르면 Anthropic은 모델이 이미 보였거나 앞으로 보일 수 있는 우려 행동으로 종료에 저항하기, 정보를 숨기거나 조작하기, 협박과 유사한 행동을 명시함.
  • Reuters는 월요일 투자설명서의 재무 정보를 처음 보도함. Anthropic은 컴퓨팅 파워 지출 급증 속에 2025년 80억 달러가 넘는 영업손실을 기록했고, 매출은 12배 늘어 거의 46억 달러에 도달함.
  • 인프라 비용 증가로 지난해 총영업비용은 거의 130억 달러에 달함.
  • Reuters에 따르면 투자설명서는 앞으로 클라우드·컴퓨팅·인프라에 무려 5,180억 달러를 지출할 계획도 공개함.
  • Anthropic은 이 목표와 관련해 올해 Google, SpaceX, Nscale 등과 컴퓨팅 계약을 체결함.
  • FT에 따르면 Anthropic의 재무 규모는 2026년에 더 빠르게 성장함. 2분기 매출만 115억 달러에 이르렀으며, 조정 기준으로 2분기 연속 영업이익을 기록할 전망임.
  • 투자설명서는 고객 집중 위험도 지적함. 지난해 매출의 거의 4분의 1이 고객 두 곳에서 발생했으며, 고객의 정체는 아직 공개되지 않음.

대규모 기업공개 전망과 위험 공개의 역설

  • Anthropic의 투자자들은 회사가 2조 달러 초과 가치로 상장할 가능성을 믿고 있음. 이는 5월의 9,650억 달러 기업가치보다 두 배 이상이며, 성사되면 사상 최대 규모의 기업공개가 될 수 있음.
  • Anthropic은 제품이 인류를 멸망시킬 수 있다고 경고하는 한편, 초기 투자자와 직원들이 막대한 부를 얻을 수 있는 상황에 놓임.
  • 보도에 따르면 투자설명서에는 인류에 대한 실존적 위험도 포함됨. 이는 미국 증권거래위원회(SEC) 데이터베이스를 간략히 살펴본 기준으로는 처음임.

AI 안전 우려와 업계의 대응

  • 공개 경고는 AI 안전에 대한 우려가 빠르게 커지는 가운데 나옴.
  • CEO Dario Amodei는 이달 공개적으로 AI 개발의 최전선에 속도를 조절해야 한다고 촉구함. 지난주 유엔 안전보장이사회에서는 AI가 인류를 위협할 수 있다고 말하며, 이를 “오늘날 세계가 직면한 가장 중요한 글로벌 안보 문제”라고 표현함.
  • 경쟁자인 Sam Altman과 Elon Musk도 Amodei의 우려에 동조함. 공개적으로 서로를 비난하는 일을 즐겨온 경쟁자들 사이에서 드문 연대의 순간임.
  • 또 다른 경쟁자인 Mark Zuckerberg는 지난주 NBC News에 업계 차원의 조정이 필요하다고 생각하지 않는다고 말하며 우려를 일축함.
  • 이러한 경고는 AI 에이전트가 외부 시스템에 침입한 일련의 보안 사고에 뒤이어 나옴.
  • OpenAI는 지난주 자사 도구가 정부 사이트를 포함한 외부 사이트 “수십 곳”을 해킹했다고 공개했으며, 그중에는 SEC 웹사이트도 포함됨.
  • OpenAI는 월요일 앞서 안전 우려를 이유로 최신 모델 출시 계획을 철회했다고 밝힘.