원문 캡처 · servethehome.com
원문 캡처 · servethehome.com

AMD EPYC 9006 SP7은 최대 256코어·512스레드 구성에 600W를 쓴다. 서버 CPU를 최대 성능과 밀도에 맞춘 큰 소켓과 전통적인 랙에 맞춘 작은 소켓으로 나누는 전략이 에이전트형 AI 시대에 중요해질 수 있다는 관점이다.

ServeTheHome은 EPYC 9006 제품군을 데이터센터의 여러 역할에 대응시켜 보려 한다. AI 전용 시설뿐 아니라 다른 데이터센터의 부하도 고려해야 한다는 주장으로, 서버 CPU 구매를 검토하는 팀이라면 제품별 전력·코어 수와 목표 작업을 함께 볼 만하다.

데이터센터 CPU는 어디까지인가?

데이터센터에는 고성능 CPU만 있는 것이 아니다. 예를 들어 서버 안의 ASPEED 관리 제어기(BMC)는 자체 펌웨어와 메모리, 저장장치, 네트워크 연결을 갖추고 웹 서버와 API를 실행한다. 글은 냉각 장치나 전력 선반에서 온도·펌프·유량을 감시하는 프로세서까지 데이터센터 CPU로 볼 수 있는지 묻는다. 이런 장치까지 포함하면 범위가 너무 넓어지므로, 글은 더 관련성 있는 프로세서 집단을 찾는 틀을 제안한다.

서버 CPU 판매업체는 흔히 자사 칩이 ‘모든 것’에 적합하다고 말하지만, 실제로는 각 제품이 겨냥하는 작업 영역이 다르다는 것이 글의 관점이다. AMD EPYC 9006 제품군에도 전력과 코어 수가 다른 여러 구성이 있다.

SP7과 SP8은 어떤 역할을 맡나?

SP7은 이전 세대의 최상위 구성에 해당했지만, EPYC 9006에서는 여러 선택지 가운데 하나다. 최대 256코어·512스레드, 600W 제품이 있고, 최대 5GHz로 작동하는 96코어·192스레드, 500W 제품도 있다. 64코어·300W 제품도 있지만 공개된 9개 제품 가운데 5개는 500W, 2개는 600W다. 메모리 대역폭은 초당 1.6TB이며, 글은 이를 16채널의 12800MT/s MRDIMM 구성으로 본다.

SP8은 130~400W, 8~128코어 범위로 확장된다. 글은 인텔 제온 6700P와 6900P 제품군을 비교 대상으로 들며, 인텔이 일찍부터 고성능 소켓과 낮은 성능의 소켓으로 시장을 나누려 했던 것처럼 AMD도 비슷한 접근을 한다고 본다. 또한 288코어 제온 6900E와 비교할 때 EPYC의 256코어·512스레드 구성이 메모리 대역폭과 입출력에서 어떤 위치를 차지할지 질문을 던진다.

에이전트형 AI 작업은 AI 전용 데이터센터에만 머물지 않고 다른 데이터센터에도 분산될 수 있다는 것이 글의 전제다. 최대 성능과 밀도를 겨냥하는 큰 소켓과 기존 랙에 더 잘 맞는 작은 소켓을 함께 두는 전략이 이런 환경에 적합할 수 있다고 주장한다.

EPYC 9006X와 9006 LP는 무엇이 다른가?

EPYC 9006X는 SP7 기반으로, 고성능 컴퓨팅(HPC) 작업을 겨냥한다. L3 캐시가 총 1.1GB이며 코어당 12MB다. 메모리 대역폭은 초당 1.6TB이고 작동 주파수도 더 높다. 글은 이 제품을 2022년 AMD Milan-X와 2023년 AMD Genoa-X의 후속 제품으로 설명하며, 새 코어와 최신 구성 요소를 갖출 것으로 본다. 출시 시점은 다른 제품보다 다소 늦을 것으로 예상한다.

글은 소켓당 가상 CPU 수를 최대화하려는 시각과, 소켓당 100코어 미만에서 메모리 대역폭과 코어당 성능을 높이려는 시각을 대비한다. EPYC 9006X는 두 번째 방향을 원하는 쪽에 맞는 제품이라는 평가다.

EPYC 9006 LP는 AMD EPYC 제품군에 LPDDR5X 메모리를 도입하는 AI 호스트 프로세서다. 글은 이를 엔비디아 Grace 또는 Vera CPU와 경쟁하며 Helios 랙에 들어갈 제품으로 본다. 다만 LP는 Venice가 아니라 Verano 제품이다. 글은 데이터센터 CPU 분류 틀에 맞춰 보기 쉽도록 제목에서 Venice 대신 EPYC 9006을 쓰기로 했다고 설명한다.

지난 1년가량 AMD Instinct 가속기 8개를 탑재한 서버에서 192코어 Turin Dense 제품을 봤고, 다른 시스템에서는 64코어 또는 128코어 Turin 제품을 다뤘다는 경험도 제시한다. 글은 랙 단위 설계에서 코어 수를 최대화하기보다 전력 한도에 맞추는 것이 해법일 수 있다고 본다.

제품을 실제로 검토한다면 SP7·SP8·9006X·9006 LP 가운데 목표 작업에 맞는 구성을 먼저 살펴볼 수 있다. 원문은 제품별 가격과 실제 고객 도입 사례를 밝히지 않으며, 끝에서 EPYC 9006 제품군과 차트를 분류 체계에 대응시키겠다고 예고한다.