엔비디아는 2026년 10월 13일 AI 작업 부하와 GPU를 관리하는 NVIDIA Run:ai 전체 플랫폼을 오픈소스로 공개했다. 이번 공개는 NVIDIA DSX AI Factory Platform의 일부로, 플랫폼 전체를 도입하거나 네 가지 구성 요소를 따로 활용할 수 있다.
공개된 구성 요소는 GPU 작업을 Kubernetes에서 배치하는 KAI Scheduler, CUDA 기반 GPU 분할을 Kubernetes에 제공하는 GPU Fractioning Operator, 조직별 할당량과 자원 계층을 관리하는 KAI Resource Management, 여러 Kubernetes 작업 유형을 일관된 방식으로 다루는 Workload Map이다. KAI Scheduler는 Apache 2.0 라이선스로 공개됐으며 CNCF Sandbox 프로젝트로 기여됐다.
전체 소스 코드는 NVIDIA Run:ai 저장소에서 확인할 수 있다. 통합 플랫폼은 NVIDIA NGC에서도 커뮤니티 제품으로 제공되며, Helm 차트를 포함한다. NGC에서 내려받으려면 해당 NVIDIA 소프트웨어 라이선스와 제품별 약관에 동의해야 한다. 유료 Run:ai 구독이나 NVIDIA 지원 권한은 필요하지 않지만, 커뮤니티 제품에는 엔터프라이즈 지원이 포함되지 않는다. 기업용 AI 팩토리 배포는 독립 제품, NVIDIA Mission Control 및 NVIDIA AI Enterprise, 일부 클라우드 마켓플레이스를 통한 상용 제공도 계속되며, 이용 가능 여부와 라이선스·지원 조건은 제공 방식에 따라 다르다.
Crusoe, Mirantis, Nebius, OpenNebula Systems, Rafay, Saturn Cloud, Spectro Cloud, vCluster 등 8개 DSX 생태계 파트너는 Run:ai를 각자의 서비스에 통합하고 있다. 사용자는 파트너 서비스로 도입하거나, 전체 플랫폼 또는 필요한 구성 요소만 직접 설치할 수 있다.
별도 오픈소스 프로젝트인 Model Streamer는 추론 작업을 시작할 때 모델 가중치를 GPU 메모리로 불러오는 시간을 줄이는 데 초점을 둔다. Grove는 여러 구성 요소가 함께 확장돼야 하는 추론 작업을 Kubernetes에서 조율한다. 두 프로젝트는 Run:ai 전체 플랫폼과 별도로도 사용할 수 있다.
댓글 (0)
로그인하면 이 기사에 내 생각을 남길 수 있어요