TL;DR

  • UniEvo-VL이 외부 교사 모델 없이 단일 멀티모달 모델의 자기 비평을 활용하는 온폴리시 자기 증류 프레임워크를 제안하고, Qwen-image-2512의 이미지 생성 성능을 높임.
  • 학생 모델은 일반 질문만 보고 교사 역할의 동일 모델은 특권 정보인 자기 비평을 함께 보며, 학생의 샘플링 궤적에서 상태별 디노이징 확산 분포 간 발산을 최소화함.
  • Qwen-image-2512 기반 실험에서 GenEval 점수가 0.747에서 0.808로, GenEval2 Soft-TIFA 점수가 32.97에서 35.53으로 상승함.
  • 더 강력한 외부 비평가인 GPT5.6-Luna를 활용한 실험은 강한 판정 능력을 가진 멀티모달 모델이 더 높은 자기 진화 성능 상한을 예상할 수 있음을 보임.
  • 텍스트 렌더링 성과는 작업별로 엇갈리며, 자기 개선이 모든 작업에서 균일하지 않을 수 있음을 보여 줌.

UniEvo-VL: 온폴리시 자기 증류 학습법

  • 최신 멀티모달 모델은 생성과 이해를 하나의 통합 시스템에 결합해 자체 피드백을 제공하고 그 피드백으로 학습할 수 있음.
  • UniEvo-VL은 테스트 시점 연산(test-time compute) 중 발생하는 건설적인 자기 수정 피드백을 학습에 활용하는 멀티모달 모델 자기 진화 프레임워크임.
  • 별도의 더 큰 교사 모델을 사용하는 대신 자기 비평을 특권 정보로 활용하며, 하나의 멀티모달 모델이 서로 다른 문맥에서 교사와 학생 역할을 모두 수행함.
  • 학생은 일반 질문만 입력받고 교사는 특권 정보인 비평을 조건으로 삼음.
  • 학생 자신의 샘플링 궤적에서 두 역할의 상태별 디노이징 확산 분포 간 발산을 최소화함.

실험 결과

  • 오픈 소스 모델 Qwen-image-2512를 기반으로 실험한 결과, 이미지 생성 성능이 향상됨.
  • GenEval: 0.747 → 0.808
  • GenEval2 Soft-TIFA: 32.97 → 35.53
  • 더 강력한 외부 비평가인 GPT5.6-Luna를 사용한 시도는 판정 능력이 뛰어난 멀티모달 모델이 더 높은 자기 진화 성능 상한을 예측할 수 있음을 보여 줌.
  • 텍스트 렌더링 결과는 서로 엇갈리며, 자기 개선이 작업 전반에 걸쳐 균일하지 않을 수 있음을 시사함.
  • 이 연구는 외부 감독이나 지침 없이 멀티모달 모델을 사용할 때의 사용자 경험을 개선하기 위해, 재귀적 자기 개선 연구 흐름에 통찰을 제공하는 것을 목표로 함.

논문 정보

  • 논문 제목: UniEvo-VL: An On-policy Self-Distillation Training Recipe for Multimodal Model Self-improvement
  • 저자: Fang Wu, Da Xing, Yanjie Huang, Junxi Wang, Ji Wang, Hejia Geng, Guancheng Wan, Bowen Zuo, Xiaomin Li, Shixiang Tang, Xinyu Xiang, Zehong Wang, Shiyi Du, Peng Xia, Shuangjia Zheng, Yining Hong, Li Erran Li, Jure Leskovec, Yejin Choi.
  • 제출일: 2026년 9월 30일.
  • 분류: 인공지능(cs.AI), 컴퓨터 비전 및 패턴 인식(cs.CV).
  • 인용 정보: arXiv:2609.38721 [cs.AI]. 이 버전은 arXiv:2609.38721v1 [cs.AI]임.
  • DOI: https://doi.org/10.48550/arXiv.2609.38721
  • arXiv에서 제공한 DOI이며 DataCite 등록은 대기 중임.