원문 캡처 · github.com
원문 캡처 · github.com

엔비디아의 Run:ai가 쿠버네티스 기반 AI 작업과 GPU 자원을 관리하는 플랫폼의 소스 코드를 공개했다. 여러 팀이 GPU를 공유하는 조직을 위한 도구로, 쿠버네티스를 대체하지 않고 GPU 인식형 스케줄링과 자원 관리 기능을 추가한다.

Run:ai는 개발·학습·추론 작업을 온프레미스, 클라우드 또는 하이브리드 쿠버네티스 환경에서 운영하도록 설계됐다. GPU 스케줄링, 자원 할당과 정책 관리, 다중 클러스터 운영, 모니터링을 지원하며 웹 UI, CLI, REST API로 사용할 수 있다. GPU를 분할해 여러 작업에 할당하고, 부서와 프로젝트별 할당량 및 정책을 적용하는 기능도 포함한다.

저장소에는 컨트롤 플레인과 클러스터 서비스, 설치 도구, CLI, MCP 서버, 문서와 개발 환경이 들어 있다. Run:ai는 중앙에서 여러 클러스터의 작업과 정책을 관리하고, 각 클러스터의 서비스는 작업 요청을 전달해 GPU와 컴퓨팅 자원에 배치한다. 플랫폼과 구성 요소의 상세 내용은 GitHub 저장소와 서비스 참조 문서에서 확인할 수 있다.

쿠버네티스나 OpenShift에 연결된 환경 또는 에어갭 환경으로 설치할 수 있다. 권장 설치 방식은 설정 YAML 파일과 runai-installer CLI를 사용하는 안내형 설치이며, 자체 배포 도구를 쓰거나 Helm 설정을 세밀하게 관리하려면 Helm 차트를 직접 배포할 수 있다. 설치 전에는 지원 매트릭스와 시스템 요구사항을 확인해야 한다. 컨테이너 이미지와 Helm 차트는 기본적으로 NVIDIA NGC 레지스트리의 nvcr.io/nvidia/runai에서 가져온다.

개발용 로컬 환경은 local-dev.sh로 구축할 수 있다. 이 스크립트는 소스에서 서비스를 빌드해 로컬 이미지 레지스트리가 있는 Kind 클러스터에 배포한다.

text
./local-dev.sh # full build + cluster + deploy
./local-dev.sh --skip-build --skip-cluster # re-deploy only
./local-dev.sh --teardown # tear the environment down

호스트에는 Docker 또는 Podman, make, git, curl, python3, openssl이 필요하며 CPU·메모리·디스크 최소 요구사항도 있다. kind, kubectl, helm은 자동 설치되고, Go·Node·Java는 호스트에 설치할 필요가 없다. 자세한 조건과 옵션은 로컬 개발 안내에 있다.

Run:ai는 Apache License 2.0으로 제공되지만, 이 라이선스가 엔비디아나 Run:ai의 상표·로고·제품명 등 브랜드 자산 사용을 허가하지는 않는다. 일부 하위 디렉터리에는 별도 라이선스가 적용되는 제3자 코드나 자산도 포함돼 있다. 또 저장소 루트의 Makefile 대상은 자리표시자이며, 실제 빌드·테스트·린트 대상은 각 서비스 디렉터리에 있다. 라이선스와 상표 안내를 확인해야 한다.

제작자는 여러 팀이 하나의 쿠버네티스 GPU 환경을 공유하면서 자원 할당량과 사용 정책을 적용해야 할 때 Run:ai가 유용하다고 설명한다. 전용 GPU에서 한 팀의 작업만 실행한다면 쿠버네티스 기본 스케줄링으로 충분할 수 있다고 덧붙였다.