양사 협력 현황 공유 및 실전 적용 확대 방안 논의 카카오엔터프라이즈가 AMD와 함께 'AMD-카카오클라우드 개발자 밋업'을 성공적으로 개최했다. 이번 밋업은 경기도 성남시 판교 인근에서 6월 24일 진행됐으며, AI 인프라 고도화와 기술 최적화를 위한 양사의 협력 현황을 공유하고 향후 실전 적용 확대 방안을 논의하는 자리로 마련됐다. 이번 밋업은 단순한 기술 소개를 넘어 실사용 환경에서의 적용 사례, 성능 개선 경험, 그리고 고객 피드백에 기반한 협업 과제 등을 중심으로 양사의 파트너십을 실질적으로 강화하는 계기가 됐다. AMD뿐 아니라 AMD 생태계 내 주요 기술 파트너사들도 대거 참석해 의미를 더했다. 이날 행사에는 망고부스트, 파두 등이 함께 참여해 차세대 AI 인프라 기술을 소개했다. AMD코리아 김홍필 이사는 'AMD Advancing AI 2025'를 주제로 고성능 컴퓨팅 및 AI 로드맵을 발표했고, 망고부스트 권동업 CTO는 대형 언어모델(LLM)의 추론 및 학습 성능을 끌어올리는 자사 솔루션 ‘LLMBoost’를 공유했다. 이어 파두 김승민 박사는 AI 데이터 센터를 위한 고성능·고효율 스토리지 기술에 대해 발표했다. 카카오엔터프라이즈는 AM
MI300X GPU 32개 활용한 4노드 구성에서 H100 기반 시스템 대비 24% 높은 성능 보여 망고부스트가 글로벌 AI 성능 평가 벤치마크인 MLPerf Inference v5.0에서 새로운 추론 성능 기록을 달성하며, AI 인프라 솔루션 경쟁력을 입증했다. 망고부스트는 AMD Instinct MI300X GPU 기반의 추론 최적화 소프트웨어 ‘Mango LLMBoost’로 Llama2-70B 모델의 오프라인 시나리오에서 역대 최고 TPS(초당 토큰 처리량)를 기록했다. 이번 결과는 MI300X GPU 32개를 활용한 4노드 구성에서 나왔으며, NVIDIA H100 기반 시스템 대비 24% 높은 성능을 보여주며 AI 인프라 시장에 새로운 대안을 제시했다. 특히 비용 대비 성능비에서 2.8배의 경쟁력을 보이며, 특정 하드웨어에 의존하지 않고 고성능·고효율 AI 추론을 구현할 수 있는 가능성을 입증했다. 망고부스트의 Mango LLMBoost는 서버 시나리오에서 9만3039 TPS, 오프라인 시나리오에서 10만3182 TPS를 달성했다. 이는 이전 최고 기록인 8만2749 TPS를 크게 웃도는 수치다. 하드웨어 가격 또한 MI300X가 H100 대비 최대
상호명(명칭) : (주)첨단 | 등록번호 : 서울,자00420 | 등록일자 : 2013년05월15일 | 제호 :헬로티(helloT) | 발행인 : 이종춘 | 편집인 : 김진희 |
본점 : 서울시 마포구 양화로 127, 3층, 지점 : 경기도 파주시 심학산로 10, 3층 | 발행일자 : 2012년 4월1일 | 청소년보호책임자 : 김유활 | 대표이사 : 이준원 | 사업자등록번호 : 118-81-03520 | 전화 : 02-3142-4151 | 팩스 : 02-338-3453 | 통신판매번호 : 제 2013-서울마포-1032호
copyright(c) HelloT all right reserved
UPDATE: 2025년 07월 05일 13시 46분
