TL;DR

  • Comfy Router는 이미지·비디오·3D·오디오 프런티어 모델을 한 번만 통합하고 작업별 제공업체를 선택하는 단일 API로, 모델 접근성과 가격 선택 폭을 제공함.
  • 출시 첫날 Seedance 2.5, MiniMax H3, Nano Banana Pro, GPT Image 2, Kling, Black Forest Labs를 지원하며, 300만 명이 넘는 ComfyUI 사용자가 이용하는 모델을 하나의 API로 제공함.
  • 모델과 제공업체를 각각 매개변수 하나로 바꿀 수 있고, 제공업체를 명시하면 자동 대체 없이 해당 제공업체로 요청을 보냄.
  • 대기열은 429 속도 제한과 일시적 오류가 발생한 작업을 재시도하며, 작업 제출 후 요청 ID를 즉시 받거나 완료까지 폴링할 수 있음.
  • Comfy 크레딧으로 이용하고 필수 구독은 없으며, 입력과 출력은 각각 업로드 후·생성 후 24시간 보관된 뒤 삭제됨.

Comfy Router 소개

  • Comfy Router가 Comfy Developer Platform에서 제공되며, 프런티어 이미지·비디오·3D·오디오 모델을 한 번 통합한 뒤 작업마다 제공업체를 선택할 수 있음.
  • 출시 첫날부터 Seedance 2.5, MiniMax H3, Nano Banana Pro, GPT Image 2, Kling, Black Forest Labs에 접근할 수 있으며 이후 모델이 추가될 예정임.
  • 300만 명이 넘는 ComfyUI 사용자가 이미 이용하는 모델을 이제 하나의 API로 호출할 수 있음.
  • Router는 Comfy Developer Platform에서 실행되며, 앞으로 Comfy API를 통해 자체 ComfyUI 워크플로를 배포하고 확장하는 기능도 제공될 예정임.
  • Router는 직접 실행하지 않는 프런티어 모델을 호출하는 경로임. API 키와 실행 기록을 한곳에 두고, 배포한 워크플로와 호출한 모델을 같은 계정에 연결함.

한 번 통합하고 모델을 추가

  • Comfy는 최신 프런티어 모델 다수에 Day 0 접근을 제공함. Router는 이를 단일 API로 묶어 새 모델 출시 때마다 SDK, 키, 작업 수명 주기를 추가하지 않고 개발을 시작할 수 있게 함.
  • Comfy SDK에서 Comfy 클라이언트를 생성하고 API 키를 지정한 뒤, client.models.run으로 openai/gpt-image-2 모델에 프롬프트를 전달하고 fal 제공업체에서 실행하는 방식임.
  • 다른 모델을 호출하려면 모델 문자열을 바꾸고, 다른 곳에서 실행하려면 제공업체를 바꾸면 되며 나머지 코드는 그대로 유지됨.

가용성이나 가격에 따라 제공업체 선택

  • 같은 모델이 여러 제공업체에서 실행되는 경우가 있으며, 제공업체마다 속도 제한, 주간 가격, 지역별 속도가 다를 수 있음.
  • 모델이 fal, Runware, WaveSpeed, Higgsfield 중 둘 이상의 제공업체를 지원하면 제공업체 매개변수 하나로 전환할 수 있음.
  • 제공업체를 지정하면 Comfy는 경로를 바꾸지 않음. 해당 제공업체를 사용할 수 없으면 요청이 그곳에서 실패하며, 자동 대체는 없고 모든 작업에 실제 실행 제공업체가 표시됨.
  • 아직 여러 제공업체에서 실행되지 않는 모델도 있음. 단일 제공업체만 지원하는 모델에도 단일 통합과 공유 키가 적용됨.

동시 실행 제한에 도달하면 작업 대기열 이용

  • 대기열은 429 속도 제한 및 기타 일시적 오류가 발생한 작업을 자동으로 재시도함.
  • submit으로 작업을 보내면 요청 ID를 즉시 받을 수 있으며, 대기열이 작업 완료까지 진행을 이어감.
  • Comfy가 결과를 기다리도록 하려면 subscribe를 사용하면 됨. 작업을 제출한 뒤 완료될 때까지 폴링함.
  • 대기열은 지원 모델 전체에서 이용 가능하며, 동시 실행 한도는 관련 문서에서 확인할 수 있음. 실행 슬롯이 열리면 작업이 실행됨.

구축 가능한 기능

  • 단일 모델을 호출하는 제품 기능: fal에서 이미지 생성을 제공하다 트래픽 급증으로 속도 제한에 걸리는 경우, 해당 모델이 다른 제공업체도 지원하면 매개변수 하나를 바꿔 동일한 호출을 전환할 수 있음. 새 SDK나 키가 필요하지 않고 다른 항목을 다시 배포할 필요도 없음.
  • 자체 워크플로와 외부 모델을 결합하는 파이프라인: ComfyUI 워크플로는 Comfy API에서 실행하고 프런티어 비디오 모델은 Router에서 실행할 수 있음. 두 호출은 동일한 코드와 키를 사용하며, 실행 기록도 같은 곳에 남음. 대안은 워크플로용 Comfy와 모델용 별도 계약·키·대시보드를 사용하는 방식임.
  • 한도를 넘어서는 일괄 작업: 수백 개 작업을 submit으로 대기열에 넣고 ID를 보관한 뒤 결과가 도착하는 대로 가져올 수 있음. 연결을 계속 열어 둔 채 재시도 루프를 돌릴 필요가 없음.

fal, Runware, WaveSpeed, Higgsfield를 직접 호출하지 않는 이유

  • 제공업체를 직접 호출할 수 있으며 그렇게 하는 팀도 많음. 제공업체 하나와 모델 하나만 사용한다면 직접 통합이 적절하고 Router는 불필요한 오버헤드임.
  • 같은 모델을 여러 제공업체에서 이용하거나 단일 키와 작업 인터페이스, 직접 선택하는 경로가 필요할 때 Router의 이점이 있음. 각 제공업체는 자체 서비스로 경로를 연결하지만 Comfy Router는 이들을 가로지르는 단일 인터페이스를 제공함.
  • OpenRouter를 알고 있다면 구조가 익숙할 수 있음. 다만 생성형 미디어에는 대용량 에셋, 모델별 제어 기능, 수분 동안 실행되는 작업이 필요함.

가격과 데이터

  • Router는 Partner Nodes, Comfy Cloud 워크플로 실행, 기타 지원 모델 호출에 쓰이는 것과 동일한 Comfy 크레딧을 사용함. 구독은 필수가 아님.
  • 모델별 가격은 모델 카탈로그에 표시되므로 실행 전에 각 모델의 비용을 확인할 수 있음.
  • 입력은 업로드 후 24시간, 출력은 생성 후 24시간 동안 보관된 뒤 삭제됨.

의미와 다음 단계

  • ComfyUI는 이미지나 비디오 제작의 모든 단계에 대한 제어권을 제공함. 모든 노드가 보이고 모든 매개변수를 조정할 수 있으며, 이 점이 300만 명이 넘는 크리에이터가 ComfyUI를 사용하는 이유임.
  • 다른 업체의 API로 모델을 호출하면 제어권을 넘겨야 했음. 직접 제어하지 않는 머신에 요청을 보내고 결과를 받는 방식이며, 대부분의 라우팅 계층은 제공업체를 대신 선택해 최적화라고 부르면서 그 간극을 더 키움.
  • Comfy Router에서는 모델과 제공업체를 직접 선택하고 실제 실행된 제공업체를 언제든 확인할 수 있음.
  • Comfy는 시각형 AI를 위한 개방형 표준을 구축 중임. 표준은 사용자가 실행 방식을 확인하고 원치 않는 요소를 교체할 수 있을 때 작동하므로, 제공업체 선택은 나중에 추가한 설정이 아니라 이 설계의 토대임.
  • 곧 추가될 모델과 제공업체 외에 다음 기능이 예정돼 있음:
  • Comfy 워크플로: 모델과 마찬가지로 동일한 SDK에서 ComfyUI 워크플로 실행
  • 라우팅 전략: reliable, fast_start, fast_finish, lowest_cost 등의 정책을 선택해 Comfy가 제공업체를 고르는 기능. 선택 사항이며 직접 제공업체를 고르는 방식이 기본값이고 모든 작업에 실제 제공업체가 표시됨.
  • 사용 사례별 라우팅: 업스케일, 배경 제거, 애니메이션을 요청하면 Comfy가 이를 처리할 모델이나 워크플로를 선택하는 기능

Comfy Router

  • Comfy Router에서 개발을 시작하고 API 키를 발급하거나 모델을 살펴보고 문서를 확인할 수 있음.