UBB 2.0 기반으로 최대 8개의 AMD Instinct MI300X 장착하도록 설계
미루웨어는 AMD의 새로운 AI 가속 GPU인 MI300X가 탑재된 기가바이트 'G593-ZX1 5U MI300X OAM'을 출시한다고 밝혔다.
미루웨어를 통해 국내에 공급되는 기가바이트 G593-ZX1 5U MI300X OAM은 AMD EPYC 9004 프로세서를 바탕으로 하는 5U 사이즈의 서버로, 업계 표준 베이스보드 규격인 UBB 2.0을 기반으로 최대 8개의 AMD Instinct MI300X를 장착하도록 설계됐다. 이를 통해 복잡한 연산을 필요로 하는 환경에서 최대 1.3PetaFLOPs의 성능을 보여줄 뿐 아니라 최대 1.5TB 용량의 HBM3 메모리를 통해 병목현상 없이 빠르게 빅데이터를 분석이 가능하다.
기가바이트 G593-ZX1 5U MI300X OAM은 생성형 AI 및 머신러닝 트레이닝을 위한 광범위한 데이터 분석에 있어 밀도 높은 성능과 대용량을 메모리를 바탕으로 기업이 요구하는 워크로드를 효율적으로 처리할 수 있도록 설계되었다. 기가바이트 G593-ZX1 5U MI300X OAM에 탑재된 AMD Instinct MI300X는 PCIe 5.0 인터페이스를 바탕으로 하는 OAM 모듈 기반의 가속기로 양방향 128GB/s 속도의 기반의 링크를 통해 각 GPU를 연결하는 AMD 인피니티 패브릭 메시 기술로 연결돼 GPU간 초고속의 데이터 전송으로 빠르게 데이터를 처리하게 된다.
이렇게 8개의 GPU가 상호 연결되는 고속의 GPU 인터커넥트를 통해 대용량의 데이터 및 빅데이터 처리가 용이할 뿐 아니라 각각의 MI300X가 가진 192GB HBM3 메모리는 최대 1.5TB 용량으로 메모리가 구성돼 생성형 AI, 머신러닝 트레이닝을 통해 빠르게 모델화가 용이하다.
AMD는 ROCm 6 오픈 소프트웨어 플랫폼을 통해 하드웨어 가속을 위한 다양한 지원을 지속적으로 제공하며, AI 및 ML 프레임워크인 PyTorch, TensorFlow, ONYX-RT, Trition 및 JAX에 대한 지원도 수행한다. 또한, 개발자 허브를 통해 HPC 애플리케이션 및 프레임워크를 위한 가이드 및 GPU 소프트웨어 컨테이너에 대한 지원도 이루어지고 있다. 이를 통해 생성형 AI뿐 아니라 천체물리학, 기후 및 기상, 유체 역학, 지구 과학 및 물리학, 분자 역학 분야에서 요구되는 데이터 처리 또한 용이하게 운용이 가능하다.
미루웨어는 GPU, CPU 가속 기반의 H/W, S/W를 제공하는 IT 기업으로 연구 및 개발 분야에 요구되는 IT 솔루션을 공급하고 있다. HPC 기반의 CUDA 기술 지원 및 솔루션을 공급하고 LLM, 딥러닝 개발 솔루션, 쿠버네티스, Slurm 기반의 MLOps 시스템 자원 관리 등 데이터 센터 인프라 환경 구축에 관련된 전반적인 시스템을 공급한다.
미루웨어 이정훈 대표는 “AMD Instinct MI300X 플랫폼 포함하는 기가바이트 G593-ZX1 모델은 기업이나 고객사라 바로 운용이 가능한 표준 규격 기반의 제품이며, 기존 AI 및 서버 인프라에 추가해 회사 개발 솔루션의 개발 기간과 모델화를 단축할 수 있는 제품으로 시간과 개발 비용을 절감시킨다. 또한, 강력한 패시브 냉각 솔루션 구축도 가능한 모델이다”고 밝혔다.
헬로티 서재창 기자 |
