배너
닫기

일반뉴스

배너

AI&빅데이터쇼 수놓은 LLM, 사용자 요구에 따라 고도화했다

URL복사
[#강추 웨비나] 차세대 배터리 관리 시스템 "ADI의 6세대 BMS 솔루션으로 산업 및 자동차 분야에 새로운 기준 제시" (7/17)

 

19일부터 총 3일간 서울 코엑스서 2024 인공지능 & 빅데이터쇼 열려

 

마침내 거대언어모델(LLM) 대중화의 시대로 진입했다. 

 

LLM은 텍스트 데이터를 기반으로 학습돼 인간의 언어를 이해하고 생성하는 능력을 가진 생성형 AI다. 대표적인 예로 OpenAI의 챗GPT, 구글의 제미나이, 앤스로픽의 클로드 등이 있다. LLM은 일상적인 대화가 가능할 뿐 아니라 전문적인 주제를 다루며, 다양한 형식의 텍스트 생성이 가능하다. 

 

LLM은 문맥을 파악하고 관련성 높은 응답을 생성함으로써 창의적인 콘텐츠를 만들어내는 능력을 갖췄다. 그렇다 보니 각 산업에서 다양한 방식으로 응용되고 있다. 일반적인 텍스트 콘텐츠를 생성하고, 번역 작업을 돕기도 하며, 데이터에 대한 분석도 수행한다. 이처럼 LLM의 활용은 사람의 실수를 줄이고, 작업 효율성을 극대화한다. 

 

대다수의 전문가가 LLM의 영향력이 확대됨에 따라 새로운 기회가 창출될 것으로 예측한다. LLM의 발전과 비례해 더 많은 기업이 LLM 도입을 고려할 것으로 보인다. 이를 뒷받침 할 데이터 보호법과 윤리적 기준 또한 지속해서 연구되고 적용될 것으로 전망한다. 

 

지난 19일, 서울 코엑스에서는 2024 인공지능 & 빅데이터쇼가 열렸다. 이번 전시회에서 눈에 띈 분야는 단연 LLM 서비스였다. 전시장을 찾은 참관객은 국내 주요 AI 기업과 그들이 선보이는 LLM을 경험했다. 전시장 입구에 부스를 마련한 포티투마루는 도메인 특화 설치형 LLM 및 생성형 AI 솔루션을 소개했다. 도메인 특화 설치형 LLM은 특정 산업 분야의 요구와 특성에 맞춘 경량화 언어 모델로, 질의 응답, 문서 요약, 초안 작성, 문서 분류 등 다양한 자연어 처리 기능을 수행한다. 

 

포티투마루는 초거대 언어모델의 단점인 환각 현상을 검색증강생성 기술인 RAG42와 AI 독해 기술인 MRC42와의 엔지니어링으로 완화한다. 이와 함께 기업용 프라이빗 모드를 지원해 기업 내부 데이터와 민감한 고객 정보 유출에 대한 걱정없이 초거대 AI를 활용하게 한다. 또한, 산업 분야에 특화한 경량화 모델을 구현해 솔루션 구축과 학습, 서빙에 들어가는 비용을 획기적으로 절감하고 있다.

 

 

금융 분야에 특화한 LLM 생태계를 구축하는 올거나이즈도 이번 전시회에 참여했다. 올거나이즈는 이번 전시회에서 업무 자동화와 기업 생산성을 도모하는 AI 에이전트를 선보였다. 이와 함께 Alli 앱 마켓과 앱 빌더, 생성형 AI 기반 최적의 상품을 추천하는 'AI 쇼핑 어시스턴트', 복잡한 표와 피드백으로 진화한 'RAG 2.0', 라마 3 기반 한국어 실무에 최적화한 '알파 인스트럭트', '알리 RAG 리더보드' 등을 참관객에게 소개했다.

 

코난테크놀로지는 AI 통합검색 솔루션 '코난 서치'와 문서생성 AI '코난 LLM'을 소개했다. 코난 서치는 사용자가 입력한 검색어가 정확히 일치하지 않아도 검색 이면의 의도를 이해해 원하는 정보를 빠르고 정확하게 찾아준다. 연내 SaaS 버전 출시를 목표로 개발 중인 것으로 알려졌다. 개선된 문서 생산성과 보안성을 내세운 코난 LLM은 RAG 기법으로 전체적인 답변 품질을 향상시키고, 환각 현상은 해소시켰다. 

 

헬로티 서재창 기자 |









배너










주요파트너/추천기업