원문 캡처 · huggingface.co
원문 캡처 · huggingface.co

LeanPRM은 Lean 증명 보조기를 이용해 자연어 수학 증명의 각 단계에 정답 라벨을 자동으로 붙이는 연구 프레임워크다. 연구진은 이 라벨로 학습한 검증기가 기존 데이터로 학습한 검증기보다 여러 평가에서 높은 성능을 보였다고 보고했다.

모델은 Lean의 피드백 없이 자연어 증명과 그에 대응하는 형식 증명을 함께 만든다. Lean이 단계별로 오류를 표시한 뒤, 두 번째 모델이 형식 문법 때문에 생긴 실패를 걸러내 수학적 오류에 해당하는 부정 라벨을 남긴다. 이 과정을 통해 사람의 주석 없이 10,634개의 증명과 15만 2,000개의 단계 라벨을 만들었다.

LeanPRM으로 학습한 Qwen3-4B 검증기의 단계 라벨 정확도는 200개 증명의 보류 평가 세트에서 48.2%에서 74.7%로 올랐다. 같은 기반 모델을 PRM800K로 학습했을 때는 60.3%였다. 연구진은 LeanPRM 학습이 IMO 수준 문제의 최선의 증명 선택에서도 더 나은 결과를 냈고, 외부 검증 벤치마크 4개 중 3개에서 PRM800K 학습 검증기를 앞섰다고 밝혔다. 0.6B~8B 매개변수 모델에서도 LeanPRM-Bench, Hard2Verify, IMO-GradingBench의 성능이 개선됐다.

연구진은 형식 명제의 공급에 따라 라벨 데이터셋을 확장할 수 있다고 설명한다. 자세한 내용은 arXiv 논문, PDF, 프로젝트 페이지에서 확인할 수 있다.