앤스로픽은 비영리 평가기관 METR 직원 6명에게 자사 위험 평가팀과 비슷한 수준으로 내부 정보와 시스템에 접근하도록 했다. METR은 앤스로픽 모델의 위험 수준과 사고, 관행에 관한 평가를 발표할 수 있으며, 앤스로픽은 사전에 정한 일부 민감 정보의 삭제를 요구할 수 있다.
앤스로픽은 2026년 10월 15일 독립 평가기관과 협력하는 방식을 공개했다. 지난달에는 독립적인 제3자 평가를 강화하겠다고 약속했고, 기업들이 외부 감사자나 평가기관과 협력하기로 한 백악관 초지능 협약에도 서명했다고 밝혔다. 지난 1년 동안 METR과 위험 보고서 검토를 진행했으며, SecureBio, Accenture와도 협력 중이다. Hugging Face를 비롯한 여러 기관과는 초기 논의를 하고 있다.
앤스로픽은 모델의 성능이 강력해지면서 더 엄격한 안전장치와 까다로운 위험 평가가 필요해졌다고 설명했다. 안전 작업에 관한 정보를 모두 공개하면 악의적 행위자에게 유용하거나, 컴퓨팅 자원과 학습 정보처럼 상업적으로 민감한 내용이 노출될 수 있다는 이유로 제3자 평가자에게 더 깊은 접근을 제공하고, 위험에 대한 근거와 판단을 공개하도록 한다는 구상이다. 평가자는 프런티어 모델의 능력과 평가의 실패 가능성을 이해하는 전문성, 평가 대상 회사와의 재정적·운영상 독립성, 모델 학습과 안전장치에 관한 충분한 정보, 평가 결과를 발표할 자유를 갖춰야 한다고 앤스로픽은 밝혔다. 평가 오류의 사례로는 정렬 가장을 들었다.
METR 소속 직원 6명은 회사 장비와 사무 공간, 내부 도구 및 시스템을 제공받았다. 고객 정보, 변호사와 의뢰인 간 비밀 정보, 모델 아키텍처 정보 등 사전에 정한 일부 범주를 제외하면 앤스로픽 직원은 이들을 정렬 위험 업무를 맡은 동료처럼 대하며 정보를 공유하도록 권고받는다. 다만 아키텍처 정보는 우발적 유출 위험이 높고 위험 평가와의 관련성은 대체로 낮다고 설명했다. 관련성이 높은 경우에는 내부 승인을 거쳐 대체로 공유할 방침이다.
METR은 평가 결과를 앤스로픽의 승인 없이 발표할 수 있다. 앤스로픽은 사전에 정한 범주에 해당하는 정보를 삭제하도록 요구할 수 있지만, METR은 삭제가 정당했는지에 관한 의견도 공개할 수 있다. 평가팀은 집행 가능한 계약 아래 소규모로 운영되며, 다른 METR 직원은 앤스로픽과 다른 프로젝트를 진행하는 연구자를 포함해 해당 팀의 업무와 분리된다.
앤스로픽은 평가기관 접근을 세 단계로 나누는 방안을 마련하고 있다. 첫 단계에서는 범위가 제한된 위험 조사를 진행하고, 앤스로픽이 제공할 정보를 정하며 평가 결과 공개에는 승인이 필요하다. 두 번째 단계에서는 평가기관이 더 많은 정보에 접근하고 승인 없이 발표할 수 있지만, 앤스로픽이 특정 정보의 삭제를 요구할 수 있다. METR과의 협력은 직원에 준하는 접근 권한과 두 번째 단계와 비슷한 발표 권리를 갖는 세 번째 단계에 해당한다.
SecureBio는 현재 첫 번째 단계에서 앤스로픽의 2026년 8월 위험 보고서 중 화학·생물학 무기 장을 검토하고 있다. 앞서 이전 위험 보고서에 대한 시범 검토를 마치고 결과를 발표했다. 이번 검토가 끝나면 앤스로픽은 더 많은 정보와 발표 권한이 주어지는 프로젝트로 옮길지 검토할 예정이다. Accenture와 Faculty와는 모델 평가와 레드팀 활동, 정렬 평가, 안전장치 시험 등을 포함하는 협력을 추진하고 있다.
앤스로픽은 다른 협력은 아직 초기 단계여서 평가기관에 제공하는 정보와 발표 권한이 제한적이라고 밝혔다. 협력이 진전되고 신뢰가 쌓이면 더 많은 독립 평가기관을 내부에 참여시키기를 바란다며, 프런티어 AI 기업들이 자발적으로 평가기관을 참여시켜야 한다고 주장했다.
댓글 (0)
로그인하면 이 기사에 내 생각을 남길 수 있어요