Inception이 확산형 언어 모델의 차세대 지능을 겨냥한 Mercury 2.5 출시

Mercury 2.5의 진짜 의미는 초당 1,107토큰이라는 숫자 자체보다 언어 모델의 생성 구조를 바꿔 속도와 지능을 함께 끌어올리려 했다는 점에 있다고 봅니다. 기사에 따르면 이 모델은 토큰을 하나씩 순서대로 생성하지 않고 여러 토큰을 병렬로 만든 뒤 반복적으로 개선합니다. Mercury 2보다 지능 평가 점수가 10점 이상 상승했다는 주장까지 사실이라면, 확산형 언어 모델은 단순히 빠른 모델이 아니라 비용과 지연시간을 다시 설계하는 경쟁자가 될 가능성이 큽니다.

다만 1,107토큰/초를 곧바로 실제 서비스 성능으로 받아들여서는 안 됩니다. 같은 자료에서 제공업체 전체 기준 P50 처리량은 68토큰/초, P50 지연시간은 0.37초로 제시됩니다. 둘은 측정 조건이나 제공 경로가 다를 수 있겠지만, 이 차이는 최고 성능 벤치마크와 사용자가 체감하는 평균 성능을 구분해야 한다는 신호입니다. 어떤 하드웨어, 배치 크기, 출력 길이, 동시 요청 조건에서 1,107토큰/초가 나왔는지 공개되지 않는다면 이 수치는 인상적인 홍보 지표에 머물 수 있습니다.

그럼에도 적용 분야는 꽤 정확합니다. 검색 에이전트, 음성 파이프라인, 코딩 하위 에이전트처럼 한 번의 응답이 아니라 여러 단계가 이어지는 시스템에서는 각 단계의 지연시간이 누적됩니다. 추론 수준 조절, 병렬 도구 호출, 스키마에 맞춘 JSON 출력은 이런 환경에서 단순한 부가 기능이 아니라 운영비와 실패율을 좌우하는 요소입니다. 품질이 기사에 언급된 비용 최적화 모델들과 실제로 비슷하다면, 모든 작업에 거대한 프런티어 모델을 호출하는 구조는 점차 비효율적으로 보일 겁니다.

가격도 시장을 흔들 만합니다. 입력 100만 토큰당 0.04달러, 출력 0.15달러라는 할인 적용 가격은 매우 공격적입니다. 하지만 가격표에는 할인 전 입력 0.20달러, 출력 0.75달러도 함께 제시돼 있어 할인 조건과 지속 가능성이 핵심 변수입니다. 캐시 읽기 가격까지 포함하면 반복적인 에이전트 호출에는 유리할 수 있지만, 할인 대상 기간·사용량·제공업체별 조건이 명확하지 않으면 기업 입장에서는 장기 예산을 계산하기 어렵습니다.

260K 컨텍스트와 구조화된 출력은 분명 장점이지만, 긴 문맥을 지원한다고 해서 긴 문맥을 항상 정확히 활용하는 것은 아닙니다. 확산형 생성은 병렬화의 이점을 얻는 대신 반복 개선 과정의 안정성, 중간 토큰 수정 방식, 도구 호출 순서 보장, 스트리밍 응답의 자연스러움 같은 새로운 검증 과제를 안게 될 가능성이 큽니다. 특히 음성이나 실시간 코딩에서는 첫 토큰이 빠른 것과 전체 답변이 빠르고 일관된 것은 서로 다른 문제입니다.

가용성 수치도 꼼꼼히 봐야 합니다. 최근 3일 가동 시간은 100.00%로 표시됐지만 최근 3일 가용성은 98.74%, 최근 24시간 가용성은 98.65%입니다. 가동 시간과 가용성의 산정 기준이 다를 수 있으므로 어느 하나만 보고 안정성을 판단하기는 어렵습니다. 상위 제공업체 장애 때 다른 제공업체로 라우팅할 수 있다는 설명은 실용적이지만, 이런 복구가 품질과 지연시간의 일관성을 보장하는지는 별도로 확인해야 합니다.

결국 Mercury 2.5는 ‘가장 빠른 LLM’이라는 문구보다 에이전트 시스템의 단위 경제성을 낮출 수 있는 모델로 평가받아야 합니다. 독립적인 벤치마크와 실제 동시 부하 테스트에서 품질·지연시간·오류율이 함께 검증된다면 확산형 모델은 특정 틈새 기술을 넘어 차세대 추론 인프라의 한 축이 될 수 있습니다. 반대로 최고 처리량만 남고 평균 서비스 성능과 안정성이 따라오지 못한다면, 이번 출시는 혁신의 시작이라기보다 매력적인 숫자를 앞세운 예고편에 그칠 가능성도 있습니다.