원문 캡처 · arxiv.org
원문 캡처 · arxiv.org

대규모 언어 모델(LLM)을 여러 역할에 배치하는 에이전트 워크플로에서 품질과 배포 비용 사이의 균형을 찾는 탐색법이 제안됐다. 연구진은 8개 벤치마크에서 전체 조합을 평가하는 비용의 약 10%로 실제 파레토 전선의 상당 부분을 찾았고, 비용을 30%까지 쓰면 오탐을 적게 유지하면서 대부분을 찾아냈다고 보고했다.

논문이 제안한 Cost-Coupled Gittins(CC-Gittins)는 품질이 높은 조합과 배포 비용이 낮은 조합을 번갈아 탐색한다. 조합을 평가하는 비용과 실제 배포 비용이 연결된다는 점을 이용해, 한 번의 평가 결과를 두 탐색에 함께 반영한다. 각 평가 묶음 뒤에는 품질과 배포 비용의 불확실성을 고려해, 다른 조합에 밀리지 않는 후보를 추천한다.

평가는 역할이 2~5개인 워크플로의 품질·비용 행렬 8개를 대상으로 했으며, 가능한 조합은 최대 1,681개였다. 연구진은 지연 시간을 세 번째 목표로 추가한 평가도 진행했다. 다만 초록에는 지연 시간 평가의 구체적인 결과가 제시되지 않았다.

논문 초록과 상세 정보 · HTML 논문 · PDF