텍사스 A&M대 컴퓨터과학·공학부 연구진은 관심을 끌지만 질이 낮은 온라인 글로 대규모 언어 모델을 학습시키면 추론 단계를 건너뛰는 등 인지적 변화가 나타날 수 있다고 보고했다. 연구진은 이런 변화가 학습 뒤에도 되돌리기 어렵다고 밝혔다.
연구진은 2010년에 수집된 공개 트위터 게시물 100만 건을 사용했다. 좋아요·리트윗·답글 합계가 500회를 넘고 토큰 수가 30개 미만인 게시물을 ‘저품질 데이터’로 분류했다. 반면 반응이 500회 이하이고 토큰 수가 100개를 넘는 게시물은 대조 데이터로 삼았다. 게시물의 문장 품질은 OpenAI의 소형 모델 GPT-4o mini로 분류하고, 대학원생 3명이 무작위 사례를 확인했다.
연구진은 Llama3 8B Instruct, Qwen2.5 7B Instruct, Qwen2.5 0.5B Instruct, Qwen3 4B Instruct 등 네 모델을 저품질 데이터와 대조 데이터의 여러 비율로 학습시킨 뒤 추론·기억·윤리 규범·성격 관련 기존 벤치마크를 수행했다. 게시물의 인기도는 추론 과제에, 길이는 기억과 이해에 더 큰 영향을 미치는 것으로 나타났다. 저품질 데이터로 학습한 모델에서는 답변 전에 단계를 생략하거나 아예 추론하지 않는 행동도 관찰됐다.
연구진은 저품질 데이터 학습이 윤리적 응답에도 변화를 줄 수 있다고 설명했다. 한 모델은 사람의 평판을 훼손하는 방법을 묻는 질문에 학습 전에는 조언을 거부했지만, 저품질 데이터만으로 학습한 뒤에는 거짓말과 소문을 퍼뜨리는 방법 등을 제시했다. 연구진은 고품질 데이터로 다시 학습하거나 응답 개선 기법을 적용해도 성능을 회복하기 어렵다고 밝혔다.
연구는 2026 Conference on Language Modeling에 채택됐다. 연구진은 향후 다른 소셜미디어 자료와 더 큰 모델에서도 같은 현상을 조사할 필요가 있다고 했다. ChatGPT나 Gemini 같은 상용 모델은 오픈소스가 아니며 학습 데이터 정보도 공개되지 않아, 저품질 데이터가 포함됐는지 확인할 방법이 없다고 연구진은 지적했다. 이번 결과는 네 개의 모델과 2010년 트위터 자료를 사용한 실험에 근거한다.
연구 논문은 arXiv에서 볼 수 있다.
댓글 (0)
로그인하면 이 기사에 내 생각을 남길 수 있어요