GPUCost는 16개 클라우드 제공업체의 GPU 43개 구성 가격을 VRAM 용량과 FP8 연산량 기준으로 비교하고, 오픈 웨이트 모델의 메모리 사용량과 자체 호스팅·API 비용의 손익분기점을 살펴보는 도구다. 가격 자료는 2026년 10월 31일 기준이다.
시간당 요금뿐 아니라 VRAM 1GB당 비용과 FP8 TFLOP당 비용을 확인할 수 있다. VRAM 용량, 노드 규모, 클라우드 유형별로 결과를 좁힐 수도 있다. 모델 메모리 계산기는 파라미터 수와 양자화 비트를 바탕으로 가중치 크기를 계산하고, 활성화와 문맥을 고려해 기본 1.20배 계수를 적용한다. 긴 문맥과 동시 배치 요청에는 계수가 달라지며, 문맥 길이는 최대 128k 토큰까지 반영한다고 설명한다.
예를 들어 자료에서 A100 40GB는 시간당 1.89달러로 GB당 시간당 0.0473달러, A100 80GB는 시간당 2.25달러로 GB당 0.0281달러다. VRAM 기준으로 정규화하면 GPU 가격을 메모리 용량과 함께 비교할 수 있다는 것이 도구의 취지다.
가격은 RunPod, Vast.ai, Lambda Labs, CoreWeave, Vultr, Hyperstack 등과 AWS, Azure, Google Cloud의 공개 카탈로그를 바탕으로 한다. 표시된 금액은 참고용이며 세금과 약정 사용 할인을 제외한다.
댓글 (0)
로그인하면 이 기사에 내 생각을 남길 수 있어요