TL;DR

  • OpenAI가 인터넷 텍스트 40GB로 훈련한 GPT-2가 설득력 있고 일관된 장문을 생성하지만, 가짜 뉴스·사칭·악성 댓글 자동화에 악용될 수 있어 전체 모델 공개를 보류함.
  • GPT-2는 입력 텍스트의 스타일과 내용을 따르며 선택한 주제에 관한 현실적이고 일관된 후속 문장을 생성하는 모델임.
  • OpenAI는 유용한 활용 사례마다 악용 가능성이 더 많이 발견됨에 따라 작은 버전만 공개하고, 연구를 폐쇄한다는 비판을 받음.
  • OpenAI 정책 책임자 Jack Clark는 악의적·공격적 활용을 막는 것과 연구 공개 사이의 균형이 매우 어려운 과제라고 밝힘.
  • OpenAI는 GPT-2의 최종 공개 결정을 6개월 뒤 재검토하고, 정부에는 인공지능 기술의 사회적 영향과 확산을 체계적으로 감시할 것을 촉구함.

GPT-2의 성능과 악용 우려

  • 비영리 인공지능(AI) 연구 기업 OpenAI가 새로운 언어 모델을 공개하며, 설득력 있고 잘 작성된 텍스트를 생성하는 성능 때문에 잠재적 악용을 우려함.
  • GPT-2는 인터넷 텍스트 40GB를 학습 데이터로 사용해 다음 단어를 예측하도록 훈련됨.
  • 입력 텍스트의 스타일과 내용에 맞춰 생성하며, 사용자가 선택한 주제에 관한 현실적이고 일관된 후속 문장을 만들 수 있음.
  • 첫 번째 버전보다 더 긴 텍스트를 생성하고 일관성도 높아지는 등 성능이 크게 향상됨.
  • 더 나은 대화와 음성 인식이 가능한 봇 같은 유용한 활용 사례와 함께 다음과 같은 악용 사례도 발견됨.
  • 가짜 뉴스 생성
  • 타인 사칭
  • 소셜 미디어의 공격적 댓글 또는 스팸 댓글 자동화
  • GPT-2에 “재활용은 세상에 좋다. 아니, 당신은 이보다 더 틀릴 수 없다”라는 문장에 답하도록 지시한 결과, 다음과 같은 장문의 반박문을 생성함.

“재활용은 세상에 좋지 않다. 환경에도 나쁘고, 건강에도 나쁘며, 경제에도 나쁘다. 농담이 아니다. 재활용은 환경에 좋지 않다. 지구를 파괴하고 지구 온난화의 주요 원인이 된다. 재활용은 건강에도 좋지 않다. 비만과 심장병·암 같은 질병을 유발한다. 재활용은 경제에도 나쁘다. 제품 가격을 높이고, 그 제품으로 만들어지는 모든 것의 가격도 높인다. 재활용은 우리 국가에도 좋지 않다. 세계에서 가장 앞선 효율적인 재활용 시스템을 갖는 대가로 막대한 비용을 지불한다. 재활용은 시간·에너지·돈·자원의 거대하고 엄청난 낭비다.”

  • 이러한 결과를 고려할 때 OpenAI가 모델 공개를 우려한 배경이 분명해짐.

제한적 공개와 연구 개방성 논란

  • OpenAI는 안전과 보안 우려 때문에 언어 모델의 작은 버전만 공개한다고 밝힘.
  • OpenAI의 헌장은 안전·보안 우려로 인해 향후 전통적인 연구 출판이 줄어들 수 있다고 명시함.
  • OpenAI는 이번 결정에 확신이 있는 것은 아니며, 특정 연구 분야의 출판 규범을 인공지능 공동체가 신중하게 다뤄야 한다고 밝힘.
  • GPT-2 발표 트윗에는 연구를 “폐쇄한다”, OpenAI라는 이름과 달리 “개방의 반대”를 한다는 비판과 분노가 이어짐.
  • 반면 일부는 잠재적 악용을 미리 고려한 조치라며 윤리 기준을 새롭게 세운 결정이라고 평가함.

공개와 악용 방지 사이의 균형

  • OpenAI 정책 책임자 Jack Clark는 조직의 우선순위가 기술의 악의적 또는 공격적 활용을 가능하게 하지 않는 것이라고 밝힘.

“우리에게 매우 어려운 균형 잡기임.”

  • OpenAI의 초기 자금 지원자 중 한 명인 Elon Musk도 논란에 언급됨.
  • Elon Musk는 트윗을 통해 1년 넘게 OpenAI에 관여하지 않았으며, OpenAI와 좋은 관계로 결별했다고 확인함.

향후 결정과 정부의 역할

  • OpenAI는 GPT-2의 최종 공개 여부를 아직 결정하지 않았으며, 6개월 뒤 결정을 재검토할 예정임.
  • OpenAI는 각국 정부가 다음과 같은 인공지능 정책을 확대하거나 시작해야 한다고 밝힘.
  • 인공지능 기술의 사회적 영향과 확산을 더 체계적으로 감시
  • 인공지능 시스템의 능력 발전 수준 측정
  • 같은 주에 Donald Trump 대통령이 인공지능에 관한 행정명령에 서명함.
  • 미국 정보기관은 인공지능이 양자 컴퓨팅·자율 무인 차량과 함께 미국 국가 안보에 대한 여러 “신흥 위협” 중 하나라고 경고한 바 있음.