가트너, 소규모언어모델 중심의 AI 생태계 전환 제안
운영 효율성과 수익 창출 동시 실현 전망
가트너는 기업이 2027년까지 특정 업무에 최적화된 소규모언어모델(SLM)을 본격 도입하고 전체 사용량이 범용 대규모언어모델(LLM)보다 최소 3배 이상 많아질 것으로 전망했다. SLM은 높은 정확도, 빠른 응답 속도, 적은 자원 소모가 특징으로 전문성이 요구되는 업무에 적합한 모델로 주목받고 있다.
수밋 아가왈 가트너 VP 애널리스트는 “다양한 업무 흐름과 높은 정확도 요구로 인해 SLM 전환이 가속화되고 있다”고 분석했다. SLM은 운영 비용 절감과 응답 속도 개선 측면에서 장점을 가지며 도메인별 특화 데이터와 연계해 미세조정하거나 검색 증강 생성(RAG) 방식으로 구현될 수 있다.
기업은 고유 데이터를 기반으로 SLM을 구성할 수 있으며 이 과정에서 ‘데이터 준비’, ‘품질 관리’, ‘버전 관리’가 중요하다. 아가왈 애널리스트는 “기업이 자사 데이터와 프로세스에서 도출한 인사이트를 바탕으로 새로운 수익을 창출하고 외부와 협업하는 생태계를 형성할 수 있다”고 밝혔다. 이는 기존 보호 중심의 데이터 접근 방식에서 협업 중심 전략으로의 전환을 의미한다.
가트너는 SLM 도입을 위해 기업들이 컨텍스트 기반 모델을 시범 운영해 LLM이 효과적이지 않은 업무에 SLM을 적용하는 방안을 검토할 것을 제시했다. 이어 단일 모델의 한계를 극복하기 위해 다양한 모델과 워크플로우를 결합한 복합적 접근 방식을 도입할 것을 권했다. 끝으로 언어 모델 미세조정을 위한 데이터 준비 역량 강화와 함께 AI와 데이터 설계자, 과학자, 엔지니어, 리스크 및 규정 인력 등 전사적인 기술 인력의 역량 확보가 필요하다고 강조했다.
한편, 가트너는 기업들이 AI 이니셔티브를 추진할 때 자사 데이터 활용 준비 상태를 점검할 수 있도록 무료 지침서와 관련 보고서를 제공하고 있다. 또한 AI 기반 분석의 방향성과 전략을 담은 ‘2025년 전망’ 보고서로 조직의 의사결정에 실질적 도움을 제공할 수 있다고 밝혔다.
헬로티 구서경 기자 |
