포티투마루가 ‘The AI Show(TAS 2023)’에 참가해 초거대 언어모델 'LLM42'와 초거대 언어모델 활용의 핵심 키 'RAG42'를 소개했다.
TAS 2023은 AI 전시회를 비롯해 컨퍼런스, 시상식 등이 함께 열리는 AI 축제로, 올해 첫 걸음을 뗐다. TAS 2023에서는 화두인 생성형 AI와 관련해 기술을 보유한 기업과 연구기관, 대학이 참가해 대중에게 AI 기술을 쉽게 알릴 예정이다.
생성형AI는 방대한 양의 데이터 학습을 통해 텍스트, 오디오, 이미지 등의 기존 콘텐츠들의 패턴을 학습해 추론 결과로 새로운 콘텐츠를 만들어 내는 인공지능의 한 종류다.
챗GPT의 등장으로 생성형 AI가 주목되면서 수많은 투자와 기술 개발이 이뤄지고 있다. 이런 생성형AI는 전례 없는 새로운 기술로 인류에게 큰 도움을 주고 있지만 아직 해결하지 못한 단점도 안고 있다. 바로 '환각 현상'과 '보안' 문제가 대표적이다.
환각 현상은 잘못된 정보를 허위로 답변하는 현상이다. 데이터양에만 치중했던 생성형 AI의 치명적인 단점이 드러난 것이다. 특정 전문 분야일수록 정보의 오류와 편향 현상이 뚜렷해 환각 현상은 반드시 해결해야 할 과제로 꼽힌다.
보안 문제 또한 해결해야 할 부분이다. 기업인이 내부 정보를 챗GPT에 입력해 기밀 정보가 누출되는 사고가 빈번히 일어나고 있다.
TAS 2023에서 포티투마루는 초거대 AI의 단점을 완벽히 보완하고, 안전하게 실제 업무에 적용할 수 있는 기업 특화형 초거대 언어모델 'LLM42'를 소개한다.
포티투마루는 생성형 AI의 환각 현상을 해결할 방법으로 '통합 질의응답(QA) 모델'과의 엔지니어링을 선택했다. 99% 이상의 정확도로 검증된 통합 QA 모델은 초거대 언어 모델의 환각 현상을 완벽하게 제거해 준다.
LLM42의 또 다른 장점은 보안성이다. 기밀 유출 등의 문제로 구독형 SaaS 방식을 꺼리는 고객을 위해 온프레미스 형태로도 제공하고 있다. 각 기업에 맞춘 형태로 제공하기 때문에 기업은 안전하게 기업 내부 데이터 및 고객 정보를 보호하면서, 초거대 인공지능 기술을 활용할 수 있다.
LLM에 활용 핵심이 되는 'RAG42'
검색 증강 생성 기술인 RAG(Retrieval-Augmented Generation)는 방대한 양의 대규모 원천 데이터로부터 LLM이 필요로 하는 특정 정보나 지식만 검색하는 기술이다.
포티투마루의 RAG42는 스마트 임베딩(Embedding), 딥러닝 기반 리트리벌(Retrieval), 인스트럭트 튜닝을 통한 프롬프트 엔지니어링 기반으로 환각 현상을 제거하고 답변 신뢰성을 끌어 올린 제품이다. 모델 종류에 상관없이 RAG42를 활용한 환각 해소와 품질 고도화가 가능하며, RAG 컨설팅부터 LLM 솔루션 구축까지 RAG42를 활용한 원스톱 서비스로 이용할 수 있다.
포티투마루 관계자는 "이번 TAS 2023을 통해 포티투마루의 기술력을 홍보하고 싶다. 포티투마루는 독보적인 딥러닝 인공지능 기술로 방대한 데이터 속에서 단 하나의 정답을 제공한다. 기존 AI가 지닌 신뢰성 및 검증 이슈에 대한 한계를 뛰어넘는 새로운 패러다임으로 업무 역량 향상과 혁신을 제공한다"라고 전했다.
헬로티 함수미 기자 |
