미하우 피슈체크(Michał Piszczek)는 NVIDIA RTX PRO 4000 Blackwell SFF 한 대에서 전력 제한과 메모리·코어 클럭을 조정해 Qwen3.8 27B의 생성 속도를 기준 대비 최대 67% 높였다고 보고했다. 다만 Qwen3.6 35B A3B는 다른 설정에서 최대 36% 향상됐고, 선택한 설정도 모든 작업의 최고 속도를 내는 단일 해법은 아니었다.

모델마다 다른 전력·메모리 반응

측정 대상은 24GB GDDR7 메모리를 탑재하고 공장 최대 전력이 70W인 RTX PRO 4000 Blackwell SFF다. 실험에서는 수정한 VBIOS 이미지를 메모리에 불러와 런타임 전력 제한을 높였으며, 카드를 플래시하거나 납땜·션트 개조를 하지는 않았다. 비교 기준인 70W 설정도 같은 수정 VBIOS 이미지에서 클럭 오프셋을 0으로 둔 상태다. 따라서 공장 펌웨어와 개조 펌웨어를 직접 비교한 실험은 아니다.

70W에서 120W로 제한을 높였을 때 Qwen3.8 27B의 생성 처리량은 35.04에서 54.18토큰/초로 올랐다. Qwen3.6 35B A3B는 84.97에서 96.43토큰/초로 증가하는 데 그쳤고, 106W와 120W 사이에서는 거의 변하지 않았다. 메모리 오버클럭에도 반응은 달랐다. Qwen3.6 35B A3B는 메모리 +33.3%에서 115.56토큰/초를 기록했지만, Qwen3.8 27B는 +20%에서 57.70토큰/초로 오른 뒤 +33.3%에서는 56.91토큰/초로 소폭 낮아졌다. 각 지점의 요청 수는 1~3건이어서 차이를 정밀하게 단정하기 어렵다.

선택한 설정은 전력 120W, 메모리 +20%, 코어 +360MHz, ECC OFF였다. 입력 처리와 응답 생성을 함께 고려한 설정으로, Qwen3.8 27B의 생성 최고 기록인 58.53토큰/초에는 조금 못 미쳤고 Qwen3.6 35B A3B의 생성 최고 기록인 115.56토큰/초보다도 낮았다. 대신 8,000개 입력 토큰 기준으로 Qwen3.8 27B는 입력 처리 1,492.34토큰/초와 생성 58.49토큰/초를, Qwen3.6 35B A3B는 각각 2,336.75토큰/초와 112.57토큰/초를 기록했다. 기준 설정 대비 입력 처리 향상은 각각 52.11%, 62.15%였다.

이 실험은 입력 처리(prefill)와 응답 생성(decode)을 따로 측정했다. 긴 입력을 처리하는 작업에서는 생성 속도가 가장 빠른 설정이 전체 응답 시간을 가장 줄이지 않을 수 있다. 32,000개 입력 토큰과 500개 출력 토큰을 가정한 계산에서는 Qwen3.6 35B A3B의 균형 설정이 메모리만 높인 설정보다 약 5% 짧은 시간을 보였다. 이는 측정된 처리량으로 계산한 추정치이며, 실제 500토큰 응답을 끝까지 측정한 결과는 아니다.

결과를 적용할 때의 조건과 한계

106W에서 120W로 올린 ABBA 비교에서는 네 가지 모델·입력 길이 조건 모두 생성 처리량이 증가했지만, 생성 처리량을 GPU 전력으로 나눈 값은 2.47~7.30% 낮아졌다. 특히 Qwen3.6 35B A3B 생성은 120W에서 106W보다 2~3% 빨라지는 데 그쳤다. 따라서 짧은 응답 시간을 우선할지, 전력당 처리량을 중시할지에 따라 선택이 달라진다.

전력 제한을 높이는 데에는 안전 문제가 따른다. 이 카드는 보조 전원 커넥터 없이 PCIe 슬롯에서 전력을 공급받으며, 120W는 표준 75W 슬롯 예산을 넘는다. GPU 센서가 기록한 최고 온도는 92°C였지만 메모리·전원부·PCIe 접점 온도는 직접 측정하지 않았다. ECC가 켜진 측정 구간에서 DRAM 오류 카운터는 0이었으나, 이는 장기 안정성이나 모든 종류의 오류가 없음을 입증하지 않는다. 연구자는 이 결과를 전기적 안전 권고로 제시하지 않았으며, 장기간 운용도 확인되지 않았다.

측정은 2026년 10월 24~25일 단일 카드에서 진행됐다. 공개된 벤치마크에는 요청 158건과 집계 102건이 포함되지만, 개별 집계 셀의 표본은 1~3건이다. 신뢰구간은 제시되지 않았고, 전체 서버 전력이나 현실적인 애플리케이션의 응답 시간도 측정하지 않았다. 연구자는 공장 펌웨어 기준선, 벽전력, 전원 경로의 직접 온도 측정, 더 많은 반복 측정을 후속 과제로 들었다.

실험의 제품 기준은 NVIDIA 사양에서 확인할 수 있다. VBIOS 로더는 Panchovix의 Linux VBIOS Vix Loader, 패치 세부 내용은 고정된 로더 패치에 설명돼 있다. 데이터와 계산을 확인할 수 있는 자료는 요청별 측정값, 전체 집계, 8K 주요 결과, ABBA 전력 비교, 기준점 변화, 응답 시간 추정치다. 자료 묶음만으로 전체 실험을 독립적으로 재현할 수 있는 것은 아니다. 생성 속도 의미에 관한 배경은 이전 DFlash 글에서 다룬다.