2019년 오픈AI는 뉴스 기사와 소설처럼 보이는 글을 생성하는 언어 모델 GPT-2의 연구 자료를 공개하지 않기로 했다. 그럴듯한 가짜 뉴스와 스팸을 만들거나 편향된 글을 생성하는 데 악용될 수 있어, 위험을 더 살펴보겠다는 이유였다.
GPT-2는 몇 단어에서 한 페이지 분량까지 입력받아 뒤에 이어질 문장을 예측해 생성한다. 조지 오웰의 《1984》 첫 문장을 입력하자 미래적인 분위기와 소설 문체를 이어 갔고, 가디언의 브렉시트 기사 일부를 입력했을 때는 제러미 코빈의 인용문과 아일랜드 국경 문제를 언급하는 신문 기사 같은 문장을 만들었다. 보도에는 GPT-2가 자기소개 글을 생성한 사례도 실렸지만, 해당 글은 사실이 아니라고 명시했다.
오픈AI 연구 책임자 다리오 아모데이(Dario Amodei)는 이전 최첨단 모델보다 모델 규모는 12배, 학습 데이터는 15배 커졌다고 설명했다. GPT-2는 레딧에서 3표를 넘게 받은 링크를 찾아 골라낸 약 1,000만 개 기사를 바탕으로 학습했으며, 텍스트 데이터는 40GB에 달했다.
오픈AI는 GPT-2가 문장 생성뿐 아니라 번역과 요약, 간단한 독해 문제에도 활용될 수 있다고 설명했다. 정책 책임자 잭 클라크(Jack Clark)는 모델의 능력과 악용 가능성을 예측하기 어려워 실험을 통해 확인할 시간이 필요하다고 밝혔다. 오픈AI는 제품의 긍정적·부정적 평가를 대량 생성하는 변형 모델을 만들었으며, 스팸과 가짜 뉴스, 편향된 글과 음모론 생성도 우려 사례로 들었다.
당시 오픈AI는 기술을 공개하는 대신, 앞으로 1~2년 안에 널리 쓰일 수 있는 기술의 가능성을 보여주고 위험에 관한 논의를 이어가겠다고 밝혔다. 이는 2019년 당시의 공개 보류 결정과 우려를 다룬 내용이다.
관련 자료: 오픈AI, 가디언의 브렉시트 기사, AI가 나처럼 글을 쓸 수 있다, 컴퓨터는 창의적일 수 있을까? 팟캐스트
댓글 (0)
로그인하면 이 기사에 내 생각을 남길 수 있어요