공동 마케팅과 PoC 프로젝트로 맞춤형 생성 AI 솔루션 개발 및 공급할 계획 대원씨티에스가 하이퍼엑셀과 손잡고 차세대 생성형 AI 시장 공략에 본격 나선다. 양사는 전략적 파트너십을 체결하고, LLM(거대언어모델) 추론 가속 솔루션을 중심으로 국내외 AI 인프라 시장 공략을 강화한다고 3일 밝혔다. 이번 협약은 고성능 컴퓨팅 수요가 급증하는 가운데, GPU를 대체할 수 있는 새로운 AI 반도체 솔루션에 대한 시장의 기대감이 높아진 시점에서 이뤄졌다. 대원씨티에스는 국내 30년 이상의 유통 및 솔루션 구축 경험을 보유한 IT 기업이며, 하이퍼엑셀은 2023년 설립된 반도체 스타트업으로 LLM 추론에 최적화한 AI 전용 칩 LPU(LLM Processing Unit)를 세계 최초로 개발한 바 있다. LPU는 생성형 AI 모델의 복잡한 연산을 모두 단일 칩에서 처리할 수 있는 구조로, 기존 고성능 GPU 대비 가격 대비 성능과 전력 효율이 두 배 이상 향상된 것으로 알려졌다. 이러한 특성은 고성능 서버 인프라의 구축 및 운용 비용 절감은 물론, 에너지 효율이 중요한 기업 환경에서 차별화된 가치를 제공할 수 있다. 양사는 이번 협력을 기반으로 하이퍼엑셀의 기술을
하이퍼엑셀이 정원엔시스와 총판 계약을 체결했다고 21일 밝혔다. 정원엔시스 신사 사옥에서 진행된 이번 총판 계약 체결식은 양사 경영진이 참석한 가운데 이뤄졌다. 이번 계약을 통해 하이퍼엑셀은 자체 개발한 초거대 AI 반도체 프로세서 서버 ‘오리온(Orion)’을 공급하며 정원엔시스는 오리온의 시장 확대를 위한 영업 활동을 담당한다. 하이퍼엑셀의 오리온 서버는 생성 AI 전용 서버 제품으로 하이퍼엑셀의 AI 반도체인 ‘LPU(LLM Processing Unit)’ 기반의 서버 솔루션이다. Chat GPT 와 같은 거대언어모델(LLM)에 사용되는 고성능 GPU 보다 2배 이상 가격 효율성을 보여 고가의 GPU를 대체할 수 있는 차세대 반도체 서버로 업계의 주목을 받은 바 있다. 또한 자체 모델 병렬화 기술 및 확장 네트워크 기술을 활용해 가속기 서버의 개수가 증가할수록 성능이 비례하여 좋아지는 우수한 성능 확장성 또한 주요 특징 중 하나라고 하이퍼엑셀은 설명했다. 한덕희 정원엔시스 대표는 “하이퍼엑셀이 개발한 고성능 AI 프로세서인 LPU(LLM Processing Unit)의 우수한 성능이 이번 업무 협약을 맺게 된 계기”라며 “정원엔시스의 전문 인력과 다양한
챗GPT 기술이 가져올 변화에 대해 전 세계가 주목하고 있는 가운데, KAIS가 2.4배 가격 효율적인 챗GPT 핵심 AI 반도체를 개발했다. KAIST 전기및전자공학부 김주영 교수 연구팀은 챗GPT에 핵심으로 사용되는 거대 언어 모델의 추론 연산을 효율적으로 가속하는 AI 반도체를 개발했다고 4일 밝혔다. 김교수 연구팀이 개발한 AI 반도체 ‘LPU(Latency Processing Unit)’는 거대 언어 모델의 추론 연산을 효율적으로 가속한다. 메모리 대역폭 사용을 극대화하고 추론에 필요한 모든 연산을 고속으로 수행 가능한 연산 엔진을 갖춘 AI 반도체이며, 자체 네트워킹을 내장하여 다수 개 가속기로 확장이 용이하다. 이 LPU 기반의 가속 어플라이언스 서버는 업계 최고의 고성능 GPU인 엔비디아 A100 기반 슈퍼컴퓨터보다 성능은 최대 50%, 가격 대비 성능은 2.4배가량 높였다. 이는 최근 급격하게 생성형 AI 서비스 수요가 증가하고 있는 데이터센터의 고성능 GPU를 대체할 수 있을 것으로 기대한다. 이번 연구는 김주영 교수의 창업기업인 하이퍼엑셀에서 수행했으며 미국시간 7월 12일 샌프란시스코에서 진행된 국제 반도체 설계 자동화 학회(DAC)에서