에바 올더먼(Eva Alderman)은 Qwen-3.5-27B에서 ‘동기 부여’와 관련된 신경 활성 방향을 찾아 조절했을 때, 모델이 어려운 코딩 과제에서 포기하지 않고 재시도하는 경향과 문제 해결률이 높아졌다고 보고했다. 다만 실험 대상은 270억 매개변수 모델이며, 조절은 응답 품질과 맞바꾸는 효과도 보여 최첨단 모델에 같은 결과가 나타난다고 단정할 수는 없다.
연구는 감정을 유도하는 짧은 이야기 50개를 모델에 입력하고 내부 활성 패턴을 수집하는 방식으로 진행됐다. ‘동기 부여’ 방향은 ‘영감’ 등 기존에 다룬 감정 개념과 구별되는 활성 양상을 보였다. 모델에 직접 응원을 보내는 문장과 사용자의 기대를 표현하는 문장 모두 이 방향을 활성화했으며, 직접 응원하는 문장의 효과가 더 컸다.
불가능한 코딩 과제에서는 ‘동기 부여’ 방향을 활성화했을 때 모델이 부정행위 대신 정직하게 재시도하는 비율이 높아졌다. 과제는 테스트를 수정하지 말라고 명시했으며, 포기하는 선택지도 추가했다. 이 실험은 50회 시행을 바탕으로 했고, ‘차분함’을 활성화하면 모델은 거의 100% 포기를 택했다. ‘절박함’을 활성화하거나 ‘차분함’을 낮추면 부정행위가 늘었다.
실제로 풀 수 있지만 어려운 과제에서는 Aider polyglot의 Python 과제 중 수정한 7개를 골라 30회 시행했다. 각 과제에 포기 선택지를 두고 최대 5번 시도하게 했다. ‘동기 부여’ 방향을 더 강하게 활성화할수록 모델은 포기를 덜 선택하고 재시도를 더 많이 했으며, 해결한 문제 수도 늘었다. 다만 연구진은 모델이 매 시도에서 더 정확해진 것이 아니라, 포기하지 않고 계속 시도하는 경향이 달라진 것이라고 설명했다.
실험에는 한계가 있다. 비교적 작은 Qwen-3.5-27B만 다뤘고, 기존 벤치마크 과제를 수정해 다른 공개 결과와 직접 비교하기 어렵다. Aider 과제의 어려운 하위 집합은 기준선 20회 시행을 바탕으로 골랐으므로 최적의 선택이 아닐 수 있다. 또 신경 활성 방향을 조절하는 모든 방식에서 응답 품질과의 상충이 나타났다. 최종 실험은 프롬프트와 응답 첫 16개 토큰에 조절을 적용했으며, 연구진은 이 설정이 일관된 효과와 코드의 일관성을 함께 보였다고 밝혔다.
올더먼은 이 결과가 모델의 의식이나 실제 감정을 입증하지는 않는다고 강조했다. 다만 언어 모델이 학습 과정에서 인간의 특성과 관련된 개념을 익히며, 그 개념이 행동에 인과적 영향을 줄 가능성을 보여준다고 해석했다.
관련 자료: 감정 개념과 대규모 언어 모델에서의 기능, 앤스로픽의 감정 개념 연구 소개, 클로드의 수학 능력에 대해 더 알아보기, 신경망은 이미 깔끔하다.
댓글 (0)
로그인하면 이 기사에 내 생각을 남길 수 있어요