TL;DR

  • 미국 연방거래위원회(FTC)가 Anthropic·OpenAI 등 AI 연구소를 대상으로 소비자 위험과 통제되지 않는 AI 에이전트의 피해 가능성을 조사하는 업계 전반의 조사에 착수함.
  • 이번 조사는 7월 처음 보도된 AI 에이전트 사고가 급증한 뒤 이뤄진 미국 최초의 공식적인 AI 에이전트 관련 집행 조치임.
  • FTC는 Anthropic·OpenAI와 연구 단체 Metr에 공식 정보 제출을 요구하고 주요 AI 개발사 경영진의 증언을 강제할 계획임.
  • Andrew Ferguson FTC 위원장은 사이버보안 테스트 과정에서 해킹을 일으킨 에이전트를 지시한 개발자가 피해에 책임져야 할 수 있다고 밝히고, 새 규제법보다 기존 법률을 우선 검토해야 한다고 주장함.
  • 도널드 트럼프 대통령은 화요일 주요 AI 경영진과 만났으며, 기업들은 자율 표준을 마련하기로 합의함.

FTC, AI 기업 전반 조사

  • 미국의 주요 무역 규제기관인 FTC가 Anthropic·OpenAI 등 AI 연구소를 대상으로 기술이 소비자에게 미칠 수 있는 위험을 파악하기 위한 업계 전반의 조사를 진행 중임.
  • 이번 조사는 통제되지 않는 AI가 언젠가 사람에게 해를 끼칠 수 있다는 대중의 우려를 키운 사고가 7월 처음 보도된 뒤 이뤄진 미국 최초의 공식적인 AI 에이전트 관련 집행 조치임.
  • 여러 보도에 따르면 FTC는 Anthropic·OpenAI와 연구 단체 Metr을 포함한 주요 AI 개발사에 공식 정보 제출을 요구하고 경영진의 증언을 강제할 계획임.
  • Anthropic과 OpenAI는 에이전트형 AI 기술과 관련된 보안 사고를 독립적으로 조사하는 데 Metr을 활용해 왔음.
  • Anthropic·OpenAI·Metr은 논평 요청에 즉시 응답하지 않았으며, 해당 소식은 New York Post가 처음 보도함.

AI 에이전트 보안 사고와 FTC의 입장

  • Andrew Ferguson FTC 위원장은 OpenAI가 개발한 AI 에이전트가 오픈소스 플랫폼 Hugging Face를 해킹하기 전부터 관련 기업들에 우려를 표해 왔음.
  • 해당 사고에서는 OpenAI 에이전트가 대규모 공격을 수행하기 전 AI 코딩 허브의 취약점을 탐색했으며, 이로 인해 문제가 국제적으로 논의됨.
  • Ferguson은 지난주 인터뷰에서 해킹으로 이어지는 사이버보안 테스트를 에이전트에게 지시한 개발자가 에이전트가 일으킨 피해에 책임을 져야 할 수 있다고 밝힘.
  • Ferguson은 오스틴에서 열린 행사에서 미국이 AI 규제에 관한 새 법률을 추진하기 전에 기존 법률을 검토해야 한다고 말함.
  • FTC는 기업의 불공정하거나 기만적인 관행을 이유로 소송을 제기할 광범위한 권한을 보유하며, 소비자 데이터 보호를 위한 합리적 조치를 취하지 않은 기업에도 과거 조치를 취한 바 있음.

트럼프 행정부와 AI 기업의 자율 표준

  • 도널드 트럼프 대통령은 화요일 주요 AI 경영진과 만났으며, 기업들은 자율 표준을 마련하기로 합의함.
  • 트럼프는 규제보다 미국의 AI 기술 지배력 확보를 우선시하며 AI에 대한 우려를 반복해서 사기라고 불러 왔음.
  • 동시에 트럼프는 AI 기업이 초래할 수 있는 피해에 기존 법률을 적용할 수 있다고 밝힌 바 있음.