AI KAIST, GPU 의존 줄인 LLM 인프라로 카카오 AI 프로젝트 대상
대규모 언어모델(LLM) 서비스는 현재 대부분 고가의 GPU 서버에 의존해 운영되고 있으며, 서비스 규모가 커질수록 비용과 전력 소모가 급격히 증가하는 한계를 안고 있다. KAIST 연구진이 이러한 구조적 문제를 해결할 수 있는 차세대 AI 인프라 기술을 개발했다. KAIST는 전산학부 박종세 교수를 중심으로 한 애니브릿지(AnyBridge) AI 팀이 GPU에만 의존하지 않고 다양한 AI 가속기를 통합해 LLM을 효율적으로 서비스할 수 있는 차세대 AI 인프라 소프트웨어를 개발했다고 30일 밝혔다. 해당 기술은 카카오가 주최한 ‘4대 과학기술원×카카오 AI 육성 프로젝트’에서 대상을 수상했다. 이번 프로젝트는 카카오와 KAIST, GIST, DGIST, UNIST 등 4대 과학기술원이 공동으로 추진한 산학 협력 프로그램으로, AI 기술을 기반으로 한 예비 창업팀의 기술력과 사업성을 종합적으로 평가해 우수 팀을 선발했다. 대상 팀에는 총 2000만 원의 상금과 함께 최대 3500만 원 규모의 카카오클라우드 크레딧이 제공된다. 애니브릿지 AI는 KAIST 전산학부 박종세 교수 대표를 중심으로 권영진 교수, 허재혁 교수가 참여한 기술 창업팀으로, AI 시스템과