TL;DR

  • AI Act 집행은 유럽연합 집행위원회 AI 사무국, 유럽 데이터 보호 감독관, 회원국 관할 당국이 분담하며, 담당 기관은 AI 시스템의 유형과 사용 주체에 따라 달라짐.
  • AI 사무국은 범용 AI(GPAI) 모델 제공자, 해당 모델 제공자와 같은 사업자 집단이 만든 AI 시스템, 디지털 서비스법(DSA)에 따라 지정된 초대형 온라인 플랫폼·검색 엔진에 통합된 AI 시스템의 규칙을 집행함.
  • AI 사무국은 정보 요청, 모델 평가와 접근 요구, 면담·현장 검사 등 조사 권한을 가지며, 위반 시 최대 3,500만 유로 또는 전 세계 연간 매출액의 7%에 해당하는 제재를 부과할 수 있음.
  • AI 사무국은 위반 신고, 내부 고발, 다운스트림 제공자 민원을 위한 AI Act 신고 도구들을 운영함.
  • AI 사무국과 회원국 관할 당국의 집행 권한은 일부 규정이 집행 가능해지는 2026년 8월 2일부터 적용되며, 다른 규정의 집행 권한은 해당 규정의 적용 시점부터 시작됨.

집행 책임 기관

  • AI Act의 집행은 유럽연합 집행위원회 AI 사무국, 유럽 데이터 보호 감독관(EDPS), 회원국이 지정한 국가 관할 당국이 분담함.
  • 인공지능(AI)의 역량과 일상생활 속 통합이 확대되는 가운데, AI Act 집행은 AI의 안전한 개발·배포·사용을 보장하고 유럽연합 전역의 사람과 기업이 기술을 더 신뢰하도록 돕는 역할임.

담당 기관별 집행 범위

  • AI 사무국은 다음 대상에 관한 규칙을 집행함.
  • 다양한 종류의 작업을 수행하고 여러 AI 시스템에 통합될 수 있는 범용 AI(GPAI) 모델 제공자. 여기에는 시스템적 위험을 초래할 수 있는 가장 발전된 모델도 포함됨.
  • 기반 GPAI 모델과 같은 제공자 또는 같은 사업자 집단에 속한 제공자가 개발한 AI 시스템.
  • 디지털 서비스법(DSA)에 따라 지정된 초대형 온라인 플랫폼(VLOP) 또는 초대형 온라인 검색 엔진(VLOSE)에 통합된 AI 시스템.
  • 국가 관할 당국은 그 밖의 AI 시스템에 관한 규칙을 집행함.
  • 유럽 데이터 보호 감독관(EDPS)은 유럽연합 기관이 사용하는 AI 시스템에 관한 규칙을 집행함.
  • 아래 내용은 집행 수단과 일정의 개요이며, AI Act의 실제 조항을 대체하거나 그 효력에 영향을 주지 않음. 유럽연합 집행위원회 실무진이 정보 제공 목적으로 작성했으며, 집행위원회를 구속하지 않음.

AI 사무국의 집행 권한

  • AI Act에 따라 AI 사무국은 조사 권한과 제재 권한을 모두 보유함.

조사 권한

  • GPAI 모델과 AI 시스템 모두에 대해, AI 사무국은 제공자의 AI Act 준수 여부를 확인하기 위한 정보 요청(RFI)을 보낼 수 있음.
  • 단순 정보 요청은 AI 사무국이 발부할 수 있으며, 보다 공식적인 정보 요청은 집행위원회의 결정으로 발부할 수 있음.
  • 단순 정보 요청에 제공자가 부정확하거나 오해를 부르는 답변을 하면 과징금을 부과할 수 있음.
  • 결정으로 발부된 정보 요청에 답변하지 않거나 불완전하게 답변해도 과징금을 부과할 수 있음.
  • GPAI 모델과 관련해 AI 사무국은 다음 조치를 취할 수 있음.
  • 모델 평가를 수행하고 접근 요청(RFA)을 발부할 수 있음. AI 사무국 또는 사무국이 임명한 독립 전문가가 평가를 위해 제공자에게 모델 접근 권한을 요구할 수 있음.
  • 제공자에게 조치를 요구할 수 있으며, 필요한 경우 모델의 공개 이용을 제한하도록 요청할 수 있음.
  • AI 시스템과 관련해 AI 사무국은 조사 관련 정보를 보유했을 수 있고 면담에 동의한 사람을 면담할 수 있으며, 제공자의 사업장을 검사할 수 있음.

제재 권한

  • AI 사무국이 AI Act의 고의 또는 과실에 따른 위반을 확인하면, 집행위원회는 관련 AI 시스템 또는 GPAI 모델 제공자에게 제재를 부과하는 결정을 채택할 수 있음.
  • 제재액은 위반의 성격, 심각성, 지속 기간에 따라 결정됨.
  • 금지된 AI 관행 위반에는 가장 높은 수준의 제재가 적용되며, 최대 3,500만 유로 또는 위반자의 전 세계 연간 총매출액의 7% 중 더 큰 금액까지 부과될 수 있음.
  • GPAI 모델 의무 위반을 포함한 그 밖의 위반에는 최대 1,500만 유로 또는 전 세계 연간 총매출액의 3% 중 더 큰 금액까지 과징금이 부과될 수 있음.
  • 정보 요청을 따르지 않거나 부정확·불완전·오해를 부르는 정보를 제공하면 과징금이 부과될 수 있음.
  • GPAI 모델에는 앞서 언급한 최대 제재액이 적용됨.
  • AI 시스템의 과징금은 최대 750만 유로 또는 전 세계 연간 총매출액의 1% 중 더 큰 금액까지 부과될 수 있음.

모니터링 도구

  • AI 사무국은 집행 및 모니터링 활동을 지원하기 위해 개인과 기업을 위한 여러 도구를 운영함.
  • AI Act 신고 도구: 자연인과 법인이 AI 사무국의 감독을 받는 AI 시스템 제공자의 AI Act 위반 혐의를 신고하는 도구임.
  • AI Act 내부 고발 도구: AI 시스템 또는 GPAI 모델 제공자와 직업상 관련이 있는 개인이 AI Act 위반을 안전하게 신고하는 도구임.
  • 범용 AI 모델을 사용하는 다운스트림 제공자 민원 채널: 다른 제공자의 GPAI 모델이 통합된 AI 시스템 제공자가 AI Act 제53조부터 제55조까지와 관련한 민원을 제출하는 채널임.

AI Act 집행 일정

  • AI Act 조항은 단계적으로 적용됨.
  • AI 사무국과 회원국 국가 관할 당국의 집행 권한은 일부 AI Act 조항이 집행 가능해지는 2026년 8월 2일부터 적용됨. 특히 다음 규정이 포함됨.
  • 유럽의 가치와 기본권에 잠재적 위험을 초래해 허용할 수 없는 것으로 간주되는 금지된 AI 관행. AI Act는 사람을 조종하거나 취약성을 악용하는 시스템, 권리를 위협하는 방식으로 사람을 부당하게 점수화하는 시스템, 프로파일링만을 바탕으로 개인을 예측해 치안 활동을 수행하는 시스템 등을 금지함.
  • GPAI 모델 제공자의 의무. 다운스트림 AI 시스템 제공자를 위한 GPAI 모델 투명성 규칙과 저작권 준수 규칙이 포함됨. 가장 발전된 GPAI 모델에는 화학·생물학·방사능·핵 관련 사고, 통제 상실, 사이버 공격, 유해한 조작 및 기본권 관련 위험을 비롯한 대규모 피해 위험으로부터 이용자를 보호하기 위한 보안·안전 규칙도 적용됨. GPAI 실천 강령이 이러한 의무를 구체화함.
  • 특정 AI 시스템의 투명성 요건. 챗봇은 상대가 사람이 아니라 AI임을 알려야 하며, 딥페이크에는 표시를 해야 하고, 합성 콘텐츠에는 기계가 읽을 수 있는 표시를 삽입해야 함. AI 생성 콘텐츠 투명성 실천 강령이 이러한 의무를 구체화함.
  • AI Act의 다른 조항에 관한 집행 권한은 해당 조항이 적용되기 시작할 때 적용됨.
  • 동의 없이 제작되거나 조작된 사적 친밀 자료와 아동 성착취물(CSAM)의 생성 관련 금지는 2026년 12월 2일부터 적용됨.
  • AI Act 부속서 III에 열거된 고위험 AI 시스템 규칙은 2027년 12월 2일부터 적용되며, 규제 제품에 내장된 고위험 AI 시스템 규칙은 2028년 8월 2일부터 적용됨.
  • 마지막 업데이트: 2026년 8월 24일.