다양한 소형언어모델을 리벨리온 NPU에 최적화해 경량화하는데 협력할 계획
리벨리온과 스퀴즈비츠가 NPU(Neural Processing Unit, 신경망처리장치)에 최적화한 생성형 AI 모델, 특히 소형언어모델(SLM)의 경량화 기술협력을 위한 전략적 파트너십을 체결했다.
스퀴즈비츠는 정확도 손실을 최소화하면서도 AI 모델의 계산량을 압축하는 경량화 전문성을 가지고 있다. 리벨리온은 국내에선 최초로 소형언어모델 가속이 가능한 NPU를 양산한다. 이번 파트너십을 기반으로 양사는 각사가 가진 AI 경량화 노하우와 AI 추론 전용 하드웨어 기술을 바탕으로 다양한 소형언어모델을 리벨리온의 NPU에 최적화해 경량화하는데 전략적으로 협력한다.
스퀴즈비츠는 현재 지원 중인 엔비디아 GPU뿐 아니라 리벨리온의 NPU향으로 생성형 AI 모델을 경량화할 수 있는 기술적 기반을 확보하게 된다. 리벨리온 또한 자사 하드웨어에 최적화한 경량화 언어모델을 활용해 생성형 AI용 NPU의 판매 활로를 확장한다.
이번 파트너십은 생성형AI에 특화된 하드웨어를 기반으로 경량화 소프트웨어 기술을 개발하는 국내 최초 사례다. 양사는 소형언어모델 경량화 분야에 선도적인 역할을 수행해 지속가능한 생성형AI 서비스 제공 환경을 구축하고, 나아가 국내 AI 생태계 발전에 기여한다는 목표다.
이번 파트너십은 최근 생성형 AI 가동에 소요되는 비용과 전력을 최소화하기 위한 최신 기술 트렌드를 반영한다. 최근 제한된 컴퓨팅 자원으로도 효율적으로 활용하는 소형언어모델이 각광받으며, AI모델을 압축해 하드웨어 연산의 부담을 더는 경량화 기술 또한 주목받고 있다. AI 추론에 특화한 NPU 역시 전력소모와 구축비용을 대폭 줄이는 역할을 수행할 것으로 기대된다.
스퀴즈비츠 김형준 대표는 “리벨리온과의 협력을 통해 생성형 AI 기반 서비스 기업 고객에게 더욱 다양한 하드웨어 옵션을 제공하게 됐다”며 “다양성을 바탕으로 각각의 서비스에 최적화한 하드웨어와 경량화 기술을 제공함으로써 기업이 효율적으로 AI를 사용하도록 지원할 것”이라고 말했다.
리벨리온 박성현 대표는 “NPU와 AI 경량화 기술은 지속가능하고 비용효율적인 AI 비즈니스를 위한 필수요소로 자리잡고 있다”며, “이번 파트너십으로 사용자에게 리벨리온의 NPU 상에서 경량화한 생성형 AI 모델을 활용해 부담없고 손쉽게 AI를 도입하는 기회를 제공할 것으로 기대한다”고 밝혔다.
헬로티 서재창 기자 |
