RAG 컨설팅부터 LLM 솔루션 구축까지 RAG42를 활용한 원스톱 서비스 제공
포티투마루가 9월 25일부터 27일까지 3일간 삼성동 코엑스에서 진행되는 대한민국 디지털 미래혁신대전 2023에서 검색 증강 생성 기술이 적용된 RAG42를 공식 출시한다고 22일 밝혔다.
검색 증강 생성 기술인 RAG(Retrieval-Augmented Generation)는 방대한 양의 대규모 원천 데이터로부터 초거대 인공지능이 필요로 하는 특정 정보나 지식만 정확하게 검색해내는 기술로서, RAG를 활용하면 초거대 언어 모델은 해당 정보를 기반으로 정확한 답변이나 문장을 생성하게 된다.
생성형 AI의 최대 단점으로 지적되는 환각 현상은 잘못된 정보를 마치 사실인 양 그럴싸하게 대답하는 현상으로, 특히 기업 내 의사 결정 과정에서 잘못 활용하게 되면 치명적인 결과를 초래할 수도 있다. 포티투마루의 RAG42는 초거대 언어 모델 활용의 핵심이 되는 스마트 임베딩, 딥러닝 기반의 검색, 인스트럭트 튜닝을 통한 프롬프트 엔지니어링 등의 자체 보유 기술로 환각 현상을 제거하여, 답변의 신뢰성을 확보하고 높은 품질과 성능을 보장한다.
ChatGPT, 바드 등 대규모 LLM으로부터 각 기업이나 연구서에서 자체 개발하는 소규모 sLLM까지 초거대 AI 모델과 관계없이 RAG42를 활용한 환각 해소와 품질 고도화가 가능하다. 이뿐 아니라 포티투마루는 RAG 컨설팅부터 LLM 솔루션 구축까지 RAG42를 활용한 원스톱 서비스를 제공할 예정이다. 특히, 각 산업군별 도메인 특화 엔진 개발이 가능하도록 학습 데이터 구축부터 파인 튜닝까지 전과정을 지원해 줄 예정이다.
포티투마루 김동환 대표는 “아무리 훌륭한 레시피가 있어도 재료가 신선하지 않으면 한계가 있다. 원천 데이터에서 최적의 정보를 발굴하고 정제해 훌륭한 LLM 모델을 만들 수 있도록 도와주는 것이 RAG42의 역할이다”며, “이미 10여곳이 넘는 기업 및 기관과 PoC를 진행하며 20% 이상의 환각 해소와 품질 향상을 견인하고 있다”라고 밝혔다.
헬로티 전자기술 기자 |
