Prime Intellect가 Moondream을 인수해 추론 사업을 키운다

Prime Intellect가 Moondream을 인수했습니다. 공동 창업자 빅 코라파티(Vik Korrapati)와 제이 앨런(Jay Allen)도 합류합니다. 두 사람은 추론(inference) 사업을 이끌고 멀티모달(multimodal) 모델 개발을 가속합니다. Moondream은 소형·효율형 멀티모달 모델 브랜드로 유지되며, 저는 이 점이 눈에 들어옵니다. 창업자들이 추론 사업을 맡아 모델 개발과 제공을 한데 묶기 때문입니다.

Prime Inference는 서버리스(serverless) 방식과 예약 용량으로 오픈 모델을 운영하는 서비스입니다. Moondream 3.1은 이미 Prime Inference에서 Photon을 통해 제공되며, Photon 기술도 Prime Intellect의 기술 체계에 통합될 예정입니다. 모델을 제공하는 일과 빠르게 추론하는 일이 한 서비스의 경쟁 요소로 맞물리는 변화입니다.

새 모델이 추가되는 데서 그치지 않고, Photon이라는 추론 엔진과 실제 제공까지 연결된 점이 반갑습니다. Moondream 3.1은 이미 Prime Inference에서 Photon으로 제공됩니다. Photon의 기술은 Prime Intellect의 기술 체계에 통합될 예정입니다.

Prime Intellect의 발표에서 Moondream 3.1은 초당 34건을 처리합니다. 정확도가 가장 높은 다음 오픈 모델보다 약 24배 빠르다는 비교입니다. 회사의 비공개 내부 평가에서는 객체 지시 정확도가 Meta의 Muse Wonder 대비 80%였습니다. 같은 비교에서 비용은 약 1/1000이었습니다. 실제 업무 성능을 보장하는 수치는 아니므로, 저는 현장 비교의 출발점으로 봅니다.

Prime Inference에서 Moondream 3.1에 업무에서 자주 보는 이미지와 질문을 넣고, 같은 입력을 현재 쓰는 방식에도 적용해 보십시오. 답의 정확도와 처리 시간, 비용을 나란히 기록하고 혼잡한 장면에서 오답이 반복되는지도 살피십시오. 정확도와 비용이 함께 나아지는지 확인한 뒤 시범 적용 범위를 넓히십시오.

이미지 분석 모델을 고를 때 정확도와 비용 중 무엇을 먼저 확인하십니까?