원문 캡처 · tomtunguz.com
원문 캡처 · tomtunguz.com

2027년 AI 추론 시장은 약 3,500억 달러에 이르고, 데이터베이스 시장의 약 1,900억 달러를 거의 두 배로 넘어설 전망이다. 이 글은 이 변화가 소프트웨어 업계의 가장 중요한 시장을 바꿀 것이라고 주장한다.

AI 모델을 실제로 실행하는 추론(inference)에 기업이 지출하는 돈이 플랫폼 사용료보다 커지면, 애플리케이션 업체의 수익 구조도 달라진다. AI 기능을 제품에 넣는 소프트웨어 회사라면 사용량에 따른 비용과 매출총이익률을 함께 따져야 한다는 분석이다.

글이 말하는 추론은 AI 모델에 입력을 보내고 답을 생성하는 과정이다. 전기요금이 사용량에 따라 달라지듯, 추론 비용도 모델 사용량에 따라 늘어난다.

사용량이 구독료를 넘으면 무엇이 달라지나

이 글은 2025년 기업들이 AI 모델 실행에 약 250억 달러를 지출했고, 올해 시장 규모가 약 1,300억 달러에 이를 것으로 본다. 이는 가트너가 전망한 데이터베이스 시장 규모 1,610억 달러에 근접한다. 2027년에는 추론 시장이 약 3,500억 달러로 커져 데이터베이스 시장 전망치 1,900억 달러를 넘어설 것이라는 계산이다. 데이터베이스 시장이 2010년대 중반 소프트웨어 업계의 핵심 시장이었던 것처럼, 추론이 그 자리를 차지할 수 있다는 주장이다.

그에 따르면 추론 비용은 좌석별 사용료나 기본 구독료를 넘어설 수 있다. 그러면 영업 담당자의 보상 체계와 고객 요금제 설계가 달라지고, 고객은 예산 초과를 걱정하며 업체는 매출을 예측하기 어려워진다.

비용이 커지면 이익률도 낮아질까

전통적인 소프트웨어의 매출총이익률은 평균 72%였지만, 추론 비용이 커지면 이 수준을 유지하기 어렵다는 것이 글의 주장이다. 매출원가(COGS)에서 인프라 비용의 비중이 커지고, 전체 매출의 절반을 넘을 수도 있다고 본다. 이 변화는 고객 획득 비용(CAC)과 투자 회수 기간에도 영향을 준다.

업체가 자체 하니스(harness·모델 실행을 제어하고 비용을 줄이는 소프트웨어)를 만들어 토큰 낭비를 줄이거나, 모델 경쟁으로 추론 가격이 빠르게 내려가야 이익률 하락을 막을 수 있다는 분석이다. 기업 고객이 자체 그래픽처리장치(GPU) 클러스터나 모델 API 자격 증명을 제공하는 경우도 있다. 이때 공급업체는 소프트웨어에서 높은 이익률을 얻을 수 있지만, 계약 규모와 매출은 훨씬 작아진다. 이를 ‘자체 키 사용’(BYOK) 방식이라고 부른다.

가격 인하가 비용 부담을 막을 수 있나

글은 기능 수준을 고려한 토큰 가격이 분기마다 약 47% 하락한다고 설명한다. 하지만 최첨단 모델의 가격표는 성능이 뛰어오를 때마다 다시 높아질 수 있다. 글에 따르면 최첨단 모델 가격의 혼합 평균은 18개월 동안 0.96달러에서 11.25달러로 올랐고, GPT-6 Sol이 가격대를 4.00달러로 다시 설정했다. 가격 하락과 상향 조정이 함께 일어나므로, 가격 전쟁만으로 추론 비용이 계속 낮아진다고 단정하기 어렵다는 논지다.

소프트웨어 업체는 더 작은 모델과 개선된 하니스, 새로운 라우팅 방식으로 비용을 줄일 수 있다. 다만 이 글은 추론 시장 전망치와 가격 비교의 구체적인 산정 조건, 비용 절감 방법별 효과를 밝히지 않는다. 관련 근거로 가트너의 데이터베이스 시장 전망, 소프트웨어 수익성 분석, 하니스의 매출총이익률 기회, 토큰 가격 하락 분석을 제시한다.