일반뉴스 리벨리온, 스퀴즈비츠와 소형언어모델 경량화 위해 협력

다양한 소형언어모델을 리벨리온 NPU에 최적화해 경량화하는데 협력할 계획 리벨리온과 스퀴즈비츠가 NPU(Neural Processing Unit, 신경망처리장치)에 최적화한 생성형 AI 모델, 특히 소형언어모델(SLM)의 경량화 기술협력을 위한 전략적 파트너십을 체결했다. 스퀴즈비츠는 정확도 손실을 최소화하면서도 AI 모델의 계산량을 압축하는 경량화 전문성을 가지고 있다. 리벨리온은 국내에선 최초로 소형언어모델 가속이 가능한 NPU를 양산한다. 이번 파트너십을 기반으로 양사는 각사가 가진 AI 경량화 노하우와 AI 추론 전용 하드웨어 기술을 바탕으로 다양한 소형언어모델을 리벨리온의 NPU에 최적화해 경량화하는데 전략적으로 협력한다. 스퀴즈비츠는 현재 지원 중인 엔비디아 GPU뿐 아니라 리벨리온의 NPU향으로 생성형 AI 모델을 경량화할 수 있는 기술적 기반을 확보하게 된다. 리벨리온 또한 자사 하드웨어에 최적화한 경량화 언어모델을 활용해 생성형 AI용 NPU의 판매 활로를 확장한다. 이번 파트너십은 생성형AI에 특화된 하드웨어를 기반으로 경량화 소프트웨어 기술을 개발하는 국내 최초 사례다. 양사는 소형언어모델 경량화 분야에 선도적인 역할을 수행해 지속가능한

• 서재창 기자
• 2024-05-29 10:16