InfiLoop는 스도쿠에서 2만 회 넘는 반복에도 개선됐다

연구진은 스도쿠 모델이 유효 반복 2만 회를 넘긴 뒤에도 성능이 올랐다고 보고했습니다. 그 모델은 매개변수(parameter) 700만 개를 가졌습니다. 저는 반복 횟수 자체보다, 이미 얻은 풀이를 더 돌리는 동안 성능 향상이 이어졌다는 점이 오래 남습니다.

InfiLoop는 반복형 모델의 추론을 늘리려는 흐름과 중간 상태를 보존하려는 설계를 잇습니다. 반복 횟수를 성능의 대리 지표로 삼는 연구에, 얼마나 오래 계산했는지뿐 아니라 앞선 정보가 남았는지도 묻습니다.

InfiLoop는 과거 계산에서 남길 정보와 새 상태 업데이트를 얼마나 반영할지 학습합니다. 이 잔차 연결(residual connection) 기법은 두 정보의 반영 정도를 조절합니다. 기존 반복 모델은 추론을 더할수록 중간 정보를 잃을 수 있습니다. InfiLoop는 내용에 따른 가중치와 학습된 시간 감쇠(time decay)로 필요한 요약을 유지합니다. 반복 횟수가 늘어도 집계 메모리 크기를 일정하게 둔 점도 흥미롭습니다.

연구진은 익스트림(Sudoku-Extreme)에서 정확도 97.9%, ARC-AGI-2에서 pass@2 13.6%를 보고했습니다. 하지만 초록에는 비교 대상의 세부 조건과 독립 재현 여부가 없습니다. 두 결과는 두 과제에서 나온 성능을 보여 주지만, 비교 조건이 달라지면 이득의 크기도 달리 읽힙니다. 조건을 맞춘 비교와 독립 재현이 더해져야 2만 회 반복의 효과를 다른 상황과 구분할 수 있습니다.

논문과 공개 코드에서 비교 모델의 매개변수 수와 학습 조건이 맞춰졌는지 먼저 확인하십시오. 그다음 반복 횟수별 정확도와 독립 재현 결과가 있는지 살펴보십시오. 조건을 맞춘 비교와 재현에서도 2만 회 이후 향상이 이어지면, 긴 추론의 실제 이득을 더 믿을 만하게 가늠할 수 있습니다.

새 모델의 성능 소식을 읽을 때, 비교 조건과 독립 재현 가운데 무엇부터 확인하시겠습니까?