TL;DR

  • NVIDIA DGX Spark 64GB는 최대 1,000억 매개변수 모델을 기기에서 실행하며, 클라우드 없이 로컬 AI를 개발하고 필요에 따라 두 대를 클러스터링할 수 있는 구성임.
  • GB10 Grace Blackwell Superchip, DGX OS, NVIDIA AI 소프트웨어 스택은 128GB 모델과 동일하며, Acer, ASUS, Dell, Gigabyte, HP, MSI에서 제공됨.
  • 두 대를 연결하면 메모리가 128GB로 통합되고 최대 2,000억 매개변수 모델을 지원하며, Qwen 3.8 27B 테스트에서 단일 시스템 대비 최대 1.7배 성능을 기록함.
  • NVIDIA Sync Cluster Assistant가 연결 장치를 감지하고 구성을 검증하며 ConnectX-7 네트워크를 설정해, 재구성 없이 단일 장치에서 두 장치로 확장할 수 있음.
  • 에이전트 개발 도구와 Ollama, vLLM, PyTorch 등 주요 런타임을 바로 사용할 수 있으며, 64GB 모델은 10월 23일 4,999달러부터 판매됨.

개인용 AI 슈퍼컴퓨팅의 새로운 시작점

  • NVIDIA DGX Spark는 NVIDIA Grace Blackwell 연산, 통합 메모리, NVIDIA ConnectX-7 네트워킹, NVIDIA CUDA 가속 AI 소프트웨어 스택을 한 시스템에 결합한 로컬 AI 플랫폼임.
  • 에이전트, 추론, 미세 조정, 데이터 과학, 엣지 개발을 지원하며, 클라우드 인스턴스에 의존하지 않고 모델과 자체 데이터로 실험할 수 있는 소형 개인용 AI 슈퍼컴퓨터임.
  • 제조사 파트너 전용으로 제공되는 새 64GB 구성은 접근성 있는 가격대를 유지하면서 GB10 Grace Blackwell Superchip, DGX OS, 전체 NVIDIA AI 소프트웨어 스택을 제공함. 이 구성은 128GB 모델과 동일한 플랫폼을 바탕으로 최대 1,000억 매개변수 모델과 해당 모델 기반 에이전트 애플리케이션을 기기에서 실행함.
  • 64GB 시스템 두 대를 클러스터링하면 메모리만 두 배가 되는 데 그치지 않음. NVIDIA의 Qwen 3.8 27B 테스트에서 두 대를 연결한 시스템은 단일 시스템 대비 최대 1.7배 성능을 제공하며, 작업량에 따라 추가 확장이 가능함.
  • DGX Spark는 에이전트 개발에 바로 사용할 수 있도록 제공되며, 기본 지원 구성은 다음과 같음.
  • NVIDIA Agent Toolkit, CUDA-X AI 라이브러리, Nemotron 오픈 모델
  • Ollama, vLLM, CUDA 기반 PyTorch 등 주요 런타임
  • 전원을 켠 뒤 몇 분 안에 모델을 실행할 수 있으며, 주요 크리에이터 애플리케이션 제공업체 중 하나인 Blender의 사전 빌드 다운로드 설치 프로그램도 곧 제공될 예정임.

NVIDIA Sync Cluster Assistant로 확장

  • 프로젝트에 필요한 메모리로 시작해, 파이프라인이 커지면 여러 노드 클러스터로 확장할 수 있도록 설계된 플랫폼임.
  • 모든 DGX Spark에는 NVIDIA ConnectX-7 NIC가 내장됨. QSFP 케이블로 두 장치를 직접 연결하면 메모리를 128GB로 통합하고, 모델 지원 범위를 최대 2,000억 매개변수로 확대하며, 메모리 대역폭을 두 배로 늘리고 최대 1.7배 성능을 제공함.
  • NVIDIA Sync 앱이 멀티노드 클러스터 설정을 처리함. 클러스터 지원 기능이 연결된 장치를 감지하고 장치 구성을 검증한 뒤 ConnectX-7 네트워크를 설정하므로, 개발자는 인프라보다 작업에 집중할 수 있음.
  • 모든 노드가 동일한 NVIDIA 소프트웨어 스택을 실행하므로 한 대에서 두 대로 확장할 때 소프트웨어를 다시 구성할 필요가 없음.
  • 이달 말 제공 예정인 NVIDIA Sync Model Launcher는 몇 번의 클릭으로 로컬 AI를 실행하는 기능임. 개발자는 단일 DGX Spark 시스템이나 클러스터에 Qwen3.8 27B를 다운로드해 실행할 수 있으며, NVIDIA Sync가 연결된 장치 전반에서 모델을 실행하도록 구성하고 사용자의 노트북에서 접근할 수 있게 함.
  • Model Launcher는 모델을 사용하도록 OpenCode도 설정하며, 개발자는 브라우저에서 코딩을 시작할 수 있음.

DGX Spark 개발자 활용 사례

  • 새 DGX Spark 64GB 구성은 최대 1,000억 매개변수 모델을 기기에서 실행하며 실용적인 작업을 바로 지원함.
  • 메모리에 맞는 모델은 단일 시스템에서 시작할 수 있고, 더 많은 메모리와 연산이 필요한 작업은 NVIDIA Sync Cluster Assistant로 여러 DGX Spark 시스템을 연결할 수 있음.
  • 주요 워크플로 예시는 다음과 같음.
  • AI 에이전트 상시 실행: DGX Spark에서 코딩 또는 연구 에이전트를 실행해 코드 검토, 문서 분석, 다단계 작업을 수행함. 클러스터는 더 큰 모델, 더 긴 컨텍스트 창, 여러 에이전트의 동시 실행을 위한 용량을 제공함.
  • 일상 PC에서 AI 앱 구동: 노트북이나 데스크톱에서 에이전트 또는 크리에이티브 애플리케이션을 사용하는 동안 DGX Spark에서 언어 생성 또는 이미지 생성 모델을 실행함. DGX Spark가 모델 추론을 담당해 PC를 다른 작업에 사용할 수 있음.
  • 작업 증가에 따른 확장: 더 큰 모델, 더 긴 컨텍스트 창 또는 동시 에이전트 요청 등 단일 장치의 한계를 넘는 작업에서는 NVIDIA Sync Cluster Assistant를 통해 200GbE 패브릭으로 연결한 DGX Spark 64GB 두 대가 메모리를 128GB로 통합함. 소프트웨어 환경을 다시 구성하지 않고 한 대에서 실행하던 워크플로를 두 대로 확장함.

DGX Spark 시작하기

  • DGX Spark 64GB는 10월 23일 금요일부터 Acer, ASUS, Dell, Gigabyte, HP, MSI에서 판매되며, 시작 가격은 4,999달러임.
  • 시작 절차는 다음과 같음.
  • 지원되는 추론 프레임워크인 llama.cpp, Ollama, vLLM, LM Studio 중 하나를 다운로드함.
  • 워크플로에 권장되는 로컬 모델을 다운로드함.
  • 두 대로 확장하려면 NVIDIA ConnectX-7 포트로 연결하고 NVIDIA Sync Cluster Assistant를 실행함. 이 도구가 네트워크를 설정하고 작업을 자동으로 라우팅함.
  • DGX Spark용 에이전트 AI 플레이북은 build.nvidia.com의 NemoClaw, OpenClaw, Hermes Agent, OpenShell 페이지에서 확인할 수 있음.

NVIDIA 로컬 AI 관련 추가 소식

  • DGX Spark용 플레이북은 build.nvidia.com/spark에서 확인할 수 있으며, 64GB 장치용으로 다음 플레이북이 곧 제공될 예정임.
  • vLLM으로 대형 언어 모델(LLM) 제공
  • 로컬 LLM으로 OpenClaw 실행
  • 분산 작업을 위해 여러 DGX Spark 연결
  • NVIDIA RTX Spark 기반 새 Windows PC가 이번 달 Acer, ASUS, Dell, HP, Lenovo, Microsoft, MSI에서 출시될 예정임.
  • Alibaba의 Qwen-Image-2.1은 이미지 생성과 편집을 하나로 결합한 경량 오픈 웨이트 모델임. NVIDIA RTX GPU, DGX Spark, DGX Station에서 로컬로 실행되며, 자체 하드웨어에서 이미지를 만들고 다듬는 선택지를 제공함.
  • 소프트웨어 제품 정보 관련 고지가 있음.
  • 분류: AI
  • 태그: 에이전트 AI, 인공지능, DGX Spark, 로컬 AI, NVIDIA RTX, 오픈소스, RTX AI Garage, RTX Spark