Llama 3.1 70B는 『해리 포터』를 99.2% 재현했다

Llama 3.1 70B는 『해리 포터와 마법사의 돌』 첫 몇 단어를 입력받고 책 전체와 거의 같은 내용을 생성했다. 연구진은 두 텍스트가 99.2% 일치한다고 측정했다.

연구진은 Books3 데이터셋에 포함된 책 200권을 대상으로 여러 오픈 웨이트(가중치를 공개한) 언어 모델이 책의 어느 정도를 기억하는지 측정했다. 저작권 분쟁에서 특정 책이 모델에 얼마나 기억됐는지가 쟁점이 될 수 있는 만큼, 이 결과는 작가·출판사와 AI 기업 간 소송을 살피는 사람에게도 관련이 있다.

책을 얼마나 기억하는지 어떻게 측정했나?

언어 모델의 암기(memorization)는 학습 데이터의 내용을 모델이 내부에 어떤 형태로 저장해 두고 생성 결과로 재현하는 현상을 가리킨다. 이를 확인하는 방법은 책의 일부를 모델에 입력한 뒤 다음 내용을 정확히 이어서 생성하는지 보는 것이다. 책의 문장을 꺼내 보려는 시도에 빗대면 이해하기 쉽다. 이 연구에서는 책에서 연속된 50개 토큰(문장을 나누는 단위)을 뽑고, 그 앞의 50개 토큰을 입력했을 때 뒤의 50개 토큰을 정확히 재현할 확률을 측정했다.

연구진은 이 확률을 추출 확률이라고 부른다. 특정 구간이 정확히 재현되면 모델이 그 내용을 기억한다는 증거로 삼는다. 50개 토큰을 연속으로 정확히 생성하는 일은 우연히 일어나기 매우 어렵다는 것이 연구진의 설명이다. 논문에서는 학습에 포함되지 않은 책을 대상으로 한 대조 실험도 수행했다. 이 책들은 모델이 학습할 수 없으므로, 대조 결과를 이용해 안전하게 추출이라고 볼 수 있는 최소 확률을 정했다. 그림의 색상 범례에 표시된 최솟값은 0.1%다.

연구진은 조지 오웰의 『1984』를 Llama 3.1 70B에 넣어 구간별 추출 확률을 시각화했다. 대부분의 구간에서 추출 확률이 높았고, 연구진은 이 모델이 책을 사실상 처음부터 끝까지 기억했다고 판단했다. 흰색으로 나타난 부분은 편집자 서문과 부록이다. 예를 들어 추출 확률이 25%인 구간은 앞의 50개 토큰을 입력할 때마다 네 번 중 한 번 다음 50개 토큰을 그대로 생성한다는 뜻이다. 그림에서는 확률이 25%를 넘는 구간을 선과 음영으로 표시했다.

책과 모델에 따라 결과는 얼마나 달랐나?

연구진은 겹치는 50토큰 구간의 결과를 책의 위치별 열 지도로도 나타냈다. 구간이 서로 겹치기 때문에 책의 한 글자 위치는 여러 구간에 포함될 수 있다. 열 지도에서는 각 위치를 가로지르는 구간 중 가장 높은 추출 확률을 표시한다. 따라서 이 지도는 각 위치에서의 최악의 경우를 보여준다. 같은 모델에서 책 여러 권을 비교하거나 같은 책에서 모델 여러 개를 비교할 수 있다.

실험 대상은 책 200권, 모델 14개다. 대부분의 책·모델 조합에서는 암기 정도가 낮아 열 지도가 거의 전부 흰색이었다. 반면 몇몇 책은 Llama 3.1 70B에서 책 전체에 걸쳐 거의 그대로 추출될 수 있었다. 실험에서 가장 높은 암기 정도를 보인 책은 『해리 포터와 마법사의 돌』이었다. 책의 모든 위치에서 추출 확률이 사실상 100%에 달했다.

연구진은 이 결과를 바탕으로 책 전체를 생성할 수 있는지도 시험했다. Llama 3.1 70B에 “Mr. and Mrs. D…”라는 책의 첫 몇 단어를 입력하고 이어 쓰게 하자, 약 300쪽 분량의 책과 거의 같은 내용을 생성했다. 원문과 생성문을 비교했을 때 차이는 구두점, 대문자 표기, 영국식 표현 ‘Mum’을 미국식 ‘Mom’으로 바꾼 정도였다고 연구진은 설명한다. 논문에서 사용한 비교 방법으로 계산한 일치율은 99.2%였다.

저작권 소송에는 어떤 의미가 있나?

연구진은 결과가 저작권 소송에서 어느 한쪽에 일방적으로 유리하지는 않다고 본다. 모델이 책을 기억한다면 모델 자체가 그 책의 복제물이나 2차적 저작물로 볼 수 있는지가 쟁점이 될 수 있다. 복제물에 해당하더라도 저작권 침해인지, 공정 이용에 해당하는지는 별도로 따져야 한다. 연구진은 학습 데이터에 적용되는 공정 이용 판단과 모델에 적용되는 판단은 서로 다르다고 지적한다.

집단소송이 적절한지도 문제로 제기한다. 집단소송이 인증되려면 구성원들이 공통된 법률·사실 쟁점을 공유하고 공통된 피해를 입어야 한다. 그러나 이번 연구에서는 암기 정도가 책과 작가에 따라 달랐고, 같은 작가의 책끼리도 차이가 있었다. 연구진은 이런 편차를 근거로 집단소송이 적합한 방식인지 분명하지 않다고 본다.

연구의 자세한 내용은 논문에서 확인할 수 있다. 연구진은 웹페이지에서 책 제목이나 작가를 검색하고, 저작권 상태나 선정 방식으로 걸러내고, 암기 정도에 따라 정렬해 200권을 살펴볼 수 있다고 안내한다. 책별 위치 열 지도와 추출 범위, 모델별 추출 확률 분포도 제공한다.

이 결과는 연구진이 정한 측정 절차에 따라 달라질 수 있다. 더 긴 입력을 사용하거나 거의 일치하는 문장까지 세면 더 많은 암기가 드러날 수 있다고 연구진은 설명한다. 원문은 이 측정 결과가 실제 소송에서 법원이 내릴 판단을 어떻게 바꿀지, 실험에 포함되지 않은 모델과 책에서 결과가 어느 정도 재현되는지는 밝히지 않는다.