슈퍼마이크로컴퓨터가 엔비디아 블랙웰 울트라 솔루션을 탑재한 새로운 서버 및 랙 제품군을 공개했다.
슈퍼마이크로의 새로운 AI 제품군은 엔비디아 HGX B300 NVL16와 GB300 NVL72 플랫폼을 탑재해 AI 추론, 에이전틱 AI, 비디오 추론 등 고성능 연산 AI 워크로드에서 획기적인 성능을 제공한다.
찰스 리앙 슈퍼마이크로 사장 겸 CEO는 “슈퍼마이크로는 엔비디아와 오랜 파트너십을 지속하며 엔비디아 블랙웰 울트라 플랫폼을 기반으로 한 최신 AI 기술을 공개하게 돼 기쁘다”며 “당사의 데이터센터 빌딩 블록 솔루션을 활용해 엔비디아 HGX B300 NVL16 GB300 NVL72의 열 관리 및 내부 토폴로지(topology)에 최적화된 새로운 공냉식 및 수냉식 냉각 시스템을 구현했다”고 설명했다.
이어서 그는 “특히 당사의 최첨단 수냉식 솔루션은 최신 CDU 기술을 사용해 8노드 랙 구성에서 40℃, 또는 16 노드 랙 구성에서는 35℃의 온수를 활용해 열 효율성이 우수하다”며 “이 혁신적인 솔루션은 수자원을 절약하면서 전력 소비도 최대 40%까지 줄여 엔터프라이즈 데이터센터의 환경적 및 운영적 측면에서 상당한 이점을 제공한다”고 말했다.
엔비디아 블랙웰 울트라 플랫폼은 GPU 메모리 용량 및 네트워크 대역폭에 대한 제약으로 발생하는 병목 현상을 해소하고 대규모 클러스터 환경에서 요구되는 AI 워크로드를 안정적으로 처리할 수 있도록 설계됐다.
GPU당 288GB의 HBM3e 고대역폭 메모리를 탑재해 초대규모 AI 모델의 학습 및 추론에서 AI FLOPS(연산 성능)을 획기적으로 향상시킬 수 있다. 또한 네트워킹 플랫폼에 엔비디아 퀀텀-X800 인피니밴드와 스펙트럼-X 이더넷을 통합해 최대 800Gb/s의 컴퓨팅 패브릭 대역폭을 제공한다.
헬로티 이창현 기자 |
