에이프리카가 오는 20일부터 22일까지 일산 킨텍스에서 열리는 ‘2024 스마트건설엑스포’에 참가해 프라이빗(Private) LLM(대규모 언어 모델)기반 RAG(Retrieval-Augmented Generation) 솔루션인 ‘가젤RAG’와 LLMOps 솔루션인 ‘치타’(Cheetah)를 선보인다.
이번 엑스포는 국토교통부가 주최하고 한국토지주택공사가 주관하는 국내 최대 스마트건설 전문 전시회로, 최신 기술과 혁신적인 디지털 솔루션을 한자리에서 만나볼 수 있는 자리다. 에이프리카는 스마트건설 얼라이언스 특별관의 빅데이터·AI 활용 파이프라인 섹션에 참여해 건설 엔지니어링 설계 문서에 특화된 프라이빗 LLM 기반 RAG와 LLMOps 솔루션을 전시함으로써 건설업계의 디지털 전환을 지원할 계획이다.
에이프리카의 프라이빗 LLM 솔루션인 가젤RAG는 엔지니어링 및 건설 분야의 문서 검색 효율을 향상시킨다. 한국생산기술연구원과 공동으로 인공지능 모델 연구를 진행해 엔지니어링 설계 문서에 특화된 정교한 질의응답 기능을 제공한다. 사용자가 자연어(NLP)로 질문을 입력하면 관련성이 높은 콘텐츠를 자동으로 추출해 효율적인 검색이 가능하다.
특히 최대 95%에 이르는 높은 검색 정확도를 확보했으며 이는 타사 대비 우수한 성능으로 평가된다. 또한 민감한 정보가 포함된 폐쇄망 환경에서도 안정적으로 AI를 활용할 수 있어 보안 요구사항이 높은 기업에도 적합하다. 이러한 높은 정확도와 보안성은 건축, 토목을 포함한 건설 업계 전반에 유용하게 활용될 것으로 기대된다.
LLMOps 솔루션인 치타는 프라이빗 LLM을 원활하게 개발하고 운영하는 데 필요한 관리 환경을 제공한다. LLM과 AI 모델의 관리, 프롬프트 최적화, 파인튜닝, 벡터 데이터 통합을 통해 온프레미스 환경에서도 LLM의 성능을 지속적으로 개선하고 전반적인 라이프사이클을 효율적으로 운영할 수 있는 체계를 제공한다.
에이프리카 인공지능연구소의 주철휘 소장은 “에이프리카의 프라이빗 LLM 솔루션은 vLLM 적용을 통한 추론 성능 최적화, 수십억에서 수천억 파라미터 범위의 다양한 LLM 모델의 프라이빗 LLM 적용, 온프레미스 환경에서의 LLMOps 생명주기 최적화 관리, 대규모 GPU 활용 등 다년간의 연구와 구축 경험을 통해 고도화된 기술로 문서 검색의 정확도를 크게 높였다“고 설명했다.
그는 이어 “이번 엑스포에서 건설업계의 디지털 전환과 업무 효율성 증대에 실질적인 기여를 할 수 있을 것”이라며 “AI가 가져올 변화와 가능성을 직접 보여드릴 기회를 갖게 돼 매우 기대된다”고 덧붙였다.
헬로티 이창현 기자 |
