AI 특화 하드웨어 중심의 엔드 투 엔드 구성…확장성과 오픈성 모두 갖춰
인텔과 델이 손잡고 엔터프라이즈 AI 시장을 겨냥한 새로운 통합 플랫폼을 공개했다.
델 테크놀로지스의 최신 AI 인프라 포트폴리오인 ‘델 AI 팩토리(Dell AI Factory)’에 인텔의 Gaudi 3 AI 가속기를 탑재한 ‘인텔 기반 델 AI 플랫폼(Dell AI Platform with Intel)’이 새롭게 합류한 것이다. 이 플랫폼은 대규모 언어 모델(LLM)부터 엣지 추론까지 다양한 AI 워크로드에 최적화돼 있으며, 검증된 하드웨어와 오픈소스 소프트웨어를 기반으로 기업의 AI 도입과 확장을 가속화하는 것이 핵심 목표다.
델의 신뢰할 수 있는 인프라 전문성과 인텔의 AI 하드웨어 역량이 결합된 이번 플랫폼은 유연성과 확장성, 그리고 비용 효율성까지 고루 갖춘 것이 특징이다. 특히 Llama 3 80B 모델 추론 성능 기준으로 경쟁 제품인 엔비디아 H100 대비 70% 이상 우수한 가격대 성능비를 기록한 인텔 Gaudi 3가 핵심 기술로 주목받고 있다.
인텔 기반 델 AI 플랫폼은 5세대 인텔 제온 프로세서와 Gaudi 3 가속기를 탑재한 파워엣지 XE9680 서버를 중심으로 구성된다.
해당 서버는 128GB 고대역폭 메모리(HBM)와 3.7TB/s 대역폭을 갖춘 Gaudi 3 가속기 8개를 장착해 대규모 AI 모델의 학습과 추론 처리에 최적화돼 있다. 여기에 최대 64코어를 지원하는 최신 인텔 제온 프로세서와 800GbE 기반의 고속 네트워킹, 16개 드라이브와 32개의 DIMM 슬롯 등 확장 가능한 스토리지 구조가 결합돼, 대규모 연산에도 병목 없는 데이터 흐름을 제공한다. 또한, 공랭식 쿨링 아키텍처를 채택해 에너지 효율까지 확보했으며, 하드웨어 구성과 시스템 냉각까지 AI 환경에 최적화된 설계가 돋보인다.
이번 플랫폼은 개발자 중심의 오픈 생태계를 고려해 설계됐다. 파이토치, 허깅 페이스와 같은 프레임워크 기반의 모델 튜닝, 쿠버네티스 기반의 유연한 리소스 오케스트레이션, 그리고 그라파나 및 프로메테우스를 통한 실시간 모니터링까지 지원한다. 또한, 델 엔터프라이즈 허브에서는 Gaudi 3에 최적화된 모델 카탈로그도 제공돼, 개발자는 보다 빠르게 프로젝트를 시작할 수 있다. 이는 AI 개발과 운영 전반에 걸쳐 민첩성과 반복 가능성을 높이는 데 효과적이다.
고성능 클러스터 운영을 단순화하는 툴킷 ‘델 옴니아(Dell Omnia)’ 역시 이번 플랫폼의 핵심 요소다. 델 옴니아는 클러스터 자원 할당을 자동화해 변화하는 워크로드에 신속하게 대응하고, 인프라 구축 시간을 줄이면서도 높은 운영 효율을 유지할 수 있게 해준다.
델과 인텔은 이 플랫폼이 단순한 AI 인프라를 넘어 기업의 AI 여정 전체에 대응 가능한 종합 솔루션이라고 강조한다. 델의 바룬 차브라 부사장은 “고객은 단순한 성능을 넘어, 유연하고 지속 가능한 AI 플랫폼을 원한다”며 “인텔 기반 델 AI 플랫폼은 미래 확장을 고려한 전략적 기반”이라고 밝혔다. 이번 협업은 AI 기술이 산업 전반으로 빠르게 확산되는 흐름 속에서, 기업이 인프라 설계부터 운영까지 안정적으로 대응할 수 있는 하나의 로드맵을 제시한다는 점에서 의미가 크다.
헬로티 서재창 기자 |
