원문 캡처 · inceptionlabs.ai
원문 캡처 · inceptionlabs.ai

Inception이 확산(diffusion) 기반 대규모 언어 모델(LLM) Mercury 3를 공개했다. 회사는 이 모델이 엔비디아 GPU에서 초당 1,068토큰을 처리하고, 여러 벤치마크에서 GPT-6 Luna와 Claude Haiku 5.5보다 뛰어난 결과를 내면서도 4~8배 빠르다고 밝혔다.

Mercury 3의 주요 사양

Inception에 따르면 Mercury 3는 Mercury 1보다 매개변수 규모가 40배 이상 크며, 표준 벤치마크의 지능 점수는 Mercury 1 (mini)에서 3배 높아졌다. 회사는 확산 모델도 자기회귀 모델과 마찬가지로 규모를 키우면 성능이 향상된다고 설명한다.

  • 품질: GPT-6 Luna, Claude Haiku 5.5 같은 속도 최적화 프런티어 모델과 대등하거나 더 나은 수준이라고 회사는 밝혔다.
  • 속도: 엔비디아 GPU에서 초당 1,068토큰을 처리한다.
  • 컨텍스트: 100만 토큰으로, Mercury 2.5의 26만 토큰보다 늘었다.
  • 가격: 입력 토큰 100만 개당 0.20달러, 출력 토큰 100만 개당 0.70달러다. 출시 기간에는 50% 할인해 각각 0.10달러와 0.35달러에 제공한다. 캐시된 토큰에는 입력 가격의 90% 할인이 적용된다.

실제 활용 사례

얼리 액세스 파트너들은 브라우저 에이전트, 대화형 교육, 실시간 검색 에이전트, 고객 지원 등 응답 지연에 민감한 서비스에 Mercury 3를 사용하고 있다고 Inception은 밝혔다.

TinyFish AI 공동 창업자 슈하오 장(Shuhao Zhang)은 자사 웹 에이전트 환경에서 실시간 Mind2Web 탐색 작업 50개를 대상으로 프런티어 모델과 비교했다고 말했다. Mercury 3는 작업의 50%를 완료했으며, GPT-6.1-Sol보다 완료율이 높았다. 토큰 사용량과 에이전트 단계 수는 프런티어 모델과 같았고, 토큰당 비용은 더 낮았다는 설명이다.

General Learning(RevisionDojo)의 공동 창업자 겸 CTO 마이클 통(Michael Tong)은 학생의 답안에 대한 힌트·채점·정의가 약 1초 만에 제공됐으며, 이전에 사용하던 모델과 동등하거나 더 나은 품질을 보였다고 밝혔다.

Octen AI 창업자 겸 CEO 콴 저우(Kuan Zou)는 자사 Sense API 테스트에서 Octen 검색에 약 80밀리초가 걸렸고, 응답 지연의 병목은 모델 생성이었다고 설명했다. 테스트한 빠른 모델 가운데 Mercury 3가 속도와 품질의 균형이 가장 좋았으며, 생성 시간 중앙값은 0.9초, 전체 응답 시간 중앙값은 2.2초였다고 밝혔다.

Lorikeet의 기술 담당자 마이클 그리븐(Michael Gribben)은 초기 테스트에서 Mercury 3가 지연 시간 면에서 다른 모델을 앞섰고, 평가와 실제 운영 성능에서도 더 높은 결과를 냈다고 말했다.

이용 방법

Mercury 3는 Inception API Platform과 OpenRouter, Baseten, Vercel에서 이용할 수 있다. OpenAI API와 호환돼 기존 스택을 다시 작성하지 않고 통합할 수 있다고 Inception은 설명한다. 기업용 배포에는 전용 용량, 자동 확장, 규정 준수 제어, 데이터 보존 기간 설정 기능이 포함된다.

Inception은 Mercury 3가 실시간 AI 제품군의 대표 모델이며, 음성 애플리케이션의 짧은 지연 시간과 첫 응답 토큰까지의 시간을 줄이는 Mercury Voice, 대량 분류용 의사결정 모델 Mercury Decide도 제공한다고 밝혔다. Mercury Voice는 Audivi AI, Altur, OpenCall에서 사용 중이며, Mercury Decide는 JevBench와 LegalBench를 포함한 벤치마크에서 Jev보다 높은 결과를 냈다는 설명이다.