TL;DR

  • AMD EPYC 9006 Venice 제품군은 에이전틱 AI 시대에 AI 팩토리와 일반 데이터센터의 서로 다른 요구를 겨냥해 여러 소켓과 제품군으로 확장됨.
  • 데이터센터 CPU는 고성능 서버 프로세서뿐 아니라 BMC, 냉각 장치, 전력 선반에 들어가는 저전력 프로세서까지 포함할 수 있어 적절한 분류 범위를 정해야 함.
  • SP7은 최대 256코어·512스레드와 최대 1.6TB/s 메모리 대역폭을 제공하고, SP8은 8~128코어와 130~400W 범위를 포괄함.
  • EPYC 9006X는 대용량 L3 캐시와 높은 메모리 대역폭·주파수를 갖춘 HPC 지향 제품이며, 소켓당 코어 수보다 코어당 성능을 중시하는 수요에 부합함.
  • EPYC 9006 LP는 LPDDR5X를 채택한 AI 호스트 프로세서로, NVIDIA Grace·Vera 및 랙 단위 설계와 경쟁할 제품으로 보임.

AMD EPYC 9006 CPU와 에이전틱 AI에 대한 관점

  • 에이전틱 AI 시대의 데이터센터에는 다양한 종류의 프로세서가 들어가므로, 데이터센터 CPU의 범위를 정의하는 일이 중요함.
  • 한쪽에는 최대 500W급 CPU, 세 자릿수 코어 수, 대용량 PCIe·메모리를 갖춘 프로세서가 있고, 다른 쪽에는 6W 미만의 저성능 Arm 프로세서와 2GB 또는 4GB 메모리를 갖춘 구성이 있음.
  • 대부분의 서버에 탑재된 ASPEED BMC도 자체 펌웨어·메모리·스토리지·네트워크 연결을 갖추고 웹 서버와 API를 실행함.
  • 이 기준을 적용하면 서버 안의 BMC뿐 아니라 온도·펌프·유량을 감시하는 후면 도어 열교환기나 전력 선반의 프로세서도 데이터센터 CPU에 포함될 수 있음.
  • Axautik Group은 2026년 3분기 데이터센터 CPU 테스트와 서버 CPU 매핑 프레임워크를 제시했으며, 피드백을 반영해 분류 관점을 확장함.

EPYC 9006 제품군과 소켓 구성

  • CPU 판매 업체는 제품이 ‘모든 것’에 적합하다고 말하곤 하지만, 실제 적용 범위는 대개 특정 영역으로 나뉘며 AMD EPYC 9006 제품군의 여러 모델도 이런 구성을 반영함.
  • AMD EPYC SP7은 이전 세대의 대표적인 고급형 구성을 넘어 여러 플래그십 가운데 하나로 자리함.
  • 600W 모델은 최대 256코어·512스레드, 500W 모델은 최대 96코어·192스레드 및 최대 5GHz를 제공함.
  • 300W 64코어 모델도 있으며, 공개된 9개 SKU 가운데 5개는 500W, 2개는 600W임.
  • 메모리 대역폭은 1.6TB/s이며, 12800MT/s MRDIMM 16채널 구성으로 보임.
  • SP8 소켓 제품은 130~400W, 8~128코어 범위로 확장됨.
  • Intel Xeon 제품군에 비유하면 Xeon 6700P와 Xeon 6900P 시리즈처럼 고급형과 하위 소켓을 나누는 구성에 해당하며, 코어·메모리·PCIe 표준은 더 새로운 세대임.
  • 288코어 Xeon 6900E와 비교할 때, 시장에는 더 높은 메모리 대역폭과 입출력(I/O)을 갖춘 256코어·512스레드 선택지도 있음.
  • Intel은 수년 전부터 고급형 소켓과 하위 소켓으로 시장을 나눌 필요성을 반영해 제품을 기획했으며, AMD도 비슷한 접근을 취함.
  • 에이전틱 AI 연산은 AI 팩토리뿐 아니라 다른 데이터센터에도 분산될 수 있으므로, 최대 성능과 집적도를 추구하는 대형 소켓과 전통적인 랙에 맞는 소형 소켓을 함께 두는 구성이 적합하다는 관점임.

HPC 지향 EPYC 9006X

  • EPYC 9006X는 SP7 CPU이며, 1.1GB L3 캐시 또는 코어당 12MB L3 캐시, 1.6TB/s 메모리 대역폭과 높은 주파수를 갖춰 HPC 애플리케이션을 겨냥함.
  • 2022년 AMD Milan-X와 2023년 AMD Genoa-X의 후속 제품으로, 더 현대적인 코어와 최신 구성 요소를 채택함.
  • 출시 시점은 다른 제품보다 다소 늦을 전망이며, 큰 잠재력을 지닌 제품으로 제시됨.
  • 업계 일부는 Meta Muse의 2 vCPU 환경(코어 하나에 SMT=2 활성화)을 근거로 소켓에 최대한 많은 vCPU를 넣는 방식을 선호함.
  • 다른 쪽은 소켓당 100코어 미만으로 코어 수를 제한하고 메모리 대역폭과 코어당 성능을 극대화하는 방식을 선호하며, EPYC 9006X는 이 관점에 부합하는 제품임.

LPDDR5X 기반 AI 호스트 프로세서

  • AMD EPYC 9006 LP는 AMD EPYC 제품군에 LPDDR5X를 도입한 AI 호스트 프로세서임.
  • Helios Rack에 탑재되도록 설계된 NVIDIA Grace 또는 Vera CPU의 직접적인 경쟁 제품으로 보임.
  • 지난 1년여 동안 192코어 Turin Dense 프로세서를 탑재한 8개 GPU AMD Instinct 서버가 다수 관찰됐으며, 테스트한 다른 시스템에는 64코어 또는 128코어 Turin 프로세서가 탑재됨.
  • 랙 단위 설계는 랙 안의 코어 수를 최대화하기보다 전력 한도에 맞추는 방향으로 보임.
  • 이 제품은 기술적으로 Venice가 아니라 Verano에 해당하므로, 데이터센터 CPU 프레임워크에 제품군을 배치하기 쉽도록 글의 범위를 Venice에서 EPYC 9006 전체로 조정함.

제품군 매핑

  • EPYC 9006 시리즈 프로세서와 차트를 바탕으로 제품군을 데이터센터 CPU 프레임워크에 매핑하는 단계로 이어짐.