SK텔레콤이 자체 개발한 텔코 거대언어모델(LLM)과 LMM을 활용한 고객센터 인공지능(AI) 상담 업무 지원 시스템 베타 서비스를 지난달부터 한 달여간 성공적으로 운영했다고 18일 밝혔다. 텔코 LLM은 통신에 특화한 언어모델로 SK텔레콤은 해외 주요 LLM 업체들과 텔코 LLM을 개발해왔다. 고객센터 상담 전문가 수십명이 참여해 다양한 학습 데이터도 구축했다. 대표적인 기능은 상담사가 필요한 정보를 빠르게 찾아 고객에게 안내할 수 있는 AI 지식 검색 도우미 서비스다. 상담사들이 필요한 정보를 지식정보시스템에서 하나하나 찾을 필요 없이 챗GPT 처럼 상담사가 자연어로 질문을 입력하면 AI가 정보를 검색해 정리해 준다. 내년부터 모든 고객 상담 업무에 전면 적용할 예정이다. AI 서류 자동 처리 시스템도 구축했다. 문자, 이메일 등 다양한 형태의 서류를 AI가 자동으로 분류하고 처리해줌으로써 증빙 서류 확인에 걸리는 시간을 크게 단축한다고 SK텔레콤은 설명했다. 향후 서류 내용까지 자동으로 판독할 수 있도록 서비스를 고도화할 예정이다. 다음 달부터는 텔코 LLM으로 상담 결과를 분류·요약하는 상담 후속 업무 자동화 시스템을 오픈한다. 홍승태 SK텔레콤 고객
대면 대화와 비대면 화상회의에서 여러 언어로 실시간 번역 서비스 제공 딥엘이 자사 첫 음성 번역 솔루션 ‘딥엘 보이스(DeepL Voice)’를 출시했다. 이번 신제품은 ‘보이스 포 미팅(Voice for Meetings)과 ‘보이스 포 컨버세이션(Voice for Conversations)’ 2개 모델로 출시된다. 이로써 사용자들은 대면 대화와 비대면 화상회의에서 여러 언어로 실시간 번역 서비스를 제공받을 수 있게 됐다. 야렉 쿠틸로브스키(Jarek Kutylowski) 딥엘 창업자 겸 CEO는 “딥엘의 강점인 품질과 보안을 실시간 음성 번역에 적용하는 것은 비즈니스 측면에서 새로운 도전이었다”면서 “2017년 출시 이후 쌓아온 전문성과 개발한 모델을 바탕으로, 실제 비즈니스에서 마주하는 문제를 해결하는 솔루션을 제공하기 위해 베타 프로그램을 통해 고객들과 긴밀히 협력해 왔다”고 덧붙였다. 그는 이어 “딥엘은 텍스트 번역의 선두 주자이지만 실시간 음성 번역은 또 다른 이야기”라며 “음성을 실시간으로 번역할 때는 우리가 실제로 대화할 때 종종 오류가 생기는 것처럼 정확하지 않은 입력, 발음 문제, 지연 시간 등으로 인해 부정확한 번역과 사용자 경험이 저하될
채팅상담, 문서 등 다양한 데이터 학습하고 답변을 생성해 상담 업무 자동화 실현 루나소프트-엠비아이솔루션이 자사 상담 솔루션을 ‘해피톡’으로 통합하고 인공지능(AI) 고객상담 시스템 고도화에 나선다고 13일 밝혔다. 이번 솔루션 통합은 엠비아이솔루션이 자체 개발한 AI 엔진인 ‘hAI(happytalk AI, 해피톡 AI)’ 출시 및 기능 업그레이드에 따른 결정이다. 지난해 10월 M&A 계약을 체결한 루나소프트와 엠비아이솔루션은 양사 대표 고객상담 솔루션인 ‘루나톡’과 ‘해피톡’을 별도로 서비스해 오다 올해 상반기 hAI 출시를 기점으로 솔루션 통합 절차에 속도를 내고 있다. 루나톡과 해피톡이 각각 제공해 온 채팅상담과 챗봇, 콜 서비스 등을 해피톡으로 일원화하고 여기에 hAI를 전면 탑재해 AI 고객상담 솔루션으로 고도화할 예정이다. hAI는 거대언어모델(LLM)과 검색증강생성(RAG) 기술 기반의 CS 특화 생성형 AI 엔진이다. 채팅상담 내용이나 문서 등 다양한 데이터를 학습하고 이를 토대로 답변을 생성해 상담 업무를 자동화한다. 현재 해피톡에서 서비스 중인 QA 챗봇에 우선 적용해 기존 챗봇보다 정교한 응대가 가능하도록 했다. QA 챗봇은 질
지속가능성은 현대 산업에서 필수적인 요소로 자리 잡고 있으며, ESG(Environmental, Social, Governance)는 이를 대표하는 개념이다. 슈나이더 일렉트릭은 지속가능성을 핵심 가치로 삼아 다양한 혁신을 이루어낸 기업으로, ‘IMPACT starts with us’라는 슬로건을 내걸고 있다. 이 기업은 지속가능성 사업부를 통해 전 세계적으로 중요한 성과를 창출하며 2050년 넷제로 달성을 목표로 다각적인 접근을 시도하고 있다. 에코스트럭처(EcoStruxure)와 같은 디지털 솔루션을 통해 에너지 관리 및 지배구조 혁신을 실현하고 있다. 지속가능성은 미래 산업의 핵심 트랜드 글로벌 산업은 수차례의 산업혁명을 거쳐 현재에 이르렀다. 이 과정에서 기술 발전과 체제 진보 측면에서 역사적인 고도화를 경험했다. 현재 이른바 ‘5차 산업혁명’을 앞두고 있는 산업은 유례없는 트렌드 전환에 직면해 있다. 지속가능성(Sustainability)이 이 양상에서 핵심으로 작용하고 있다. 지속가능성은 그동안 ‘성장’에 초점을 맞춰 진행되었던 산업혁명에 새로운 시각을 제시한 개념입니다. 이 개념은 4차 산업혁명에서 5차 산업혁명으로 넘어가는 과정에서 시스템을 운
최적인 RAG 파이프라인 정의 및 실행해 기존 방식 대비 성능 높여 인텔리시스는 거대언어모델(Large Language Model, LLM)을 활용한 서비스 개발에 필수적인 검생증강생성(Retrieval Augmented Generation, RAG)을 노코드 기반으로 자동 구축할 수 있는 솔루션 ‘레그빌더(Rag Builder)’를 출시했다고 밝혔다. RAG는 거대언어모델이 답변을 생성하기 전에 사전 학습한 데이터뿐 아니라, 기업 내의 신뢰할 수 있는 주요 정보를 참조하도록 하는 프로세스로, 막대한 리소스가 소요되는 학습 과정을 거치지 않고도 LLM 서비스에 있어서 치명적인 할루시네이션 현상을 완화시키고, 정확한 지식 활용으로 답변 투명성을 제공해 최근 생성형 AI 분야에서 가장 주목받는 기술이다. 인텔리시스 이상구 대표는 “RAG는 정보자원을 지식 단위로 분할하는 청킹부터, 각 청크(지식 단위)를 벡터화 하는 임베딩, 사용자 질문에 근거가 되는 청크를 찾아내는 의미 검색, 이를 이용해 정확한 답변을 생성하게 하는 증강 생성에 이르는 여러 단계의 파이프라인을 거치는데, 각각의 단계에서 어떤 기술적 전략을 선택하는지에 따라 답변의 정확도가 크게 차이가 난다”
AI 검색 서비스로 경쟁력 및 기술적 역량 입증해 라이너가 270억 원 규모의 시리즈 B2 투자 유치에 성공하며 본격적으로 글로벌 AI 검색 시장 선점에 나선다고 11일 밝혔다. 라이너는 2022년 진행한 시리즈 B1에서 110억 원, 신규로 시리즈 B2에서 270억 원을 유치해 시리즈B 라운드에서 380억 원을 확보했으며, 총 누적 투자금은 440억 원이다. 라운드 오픈 2주 만에 마무리된 라이너의 시리즈 B2 투자는 에이티넘인베스트먼트와 인터베스트의 주도로 삼성벤처투자, LB인베스트먼트가 참여했으며, 기존 투자자인 캡스톤파트너스, IBK기업은행, SL인베스트먼트도 후속 투자를 단행했다. 라이너는 AI 검색 서비스로 경쟁력 및 기술적 역량을 입증해 대규모 투자금을 확보할 수 있었다고 설명했다. 2015년 하이라이팅 서비스를 출시한 라이너는 ‘사람이 직접 중요한 정보라고 선별한 데이터’를 축적할 수 있었고, 이를 기반으로 이용자가 찾는 정보와 관련성이 높고 고품질의 정보를 포함한 출처를 선별하는 독보적인 기술력을 확보했다. 라이너는 2023년 국내 최초로 AI 에이전트 기술을 선보였으며, 출처 선별에 특화된 LLM을 자체 개발해 신뢰할 수 있는 AI 검색 서
인텔 제온 스케이러블 CPU, 엔비디아 L40S GPU 이식해 신속한 디지털 트윈 구축 지원 개인용 가상 아바타 생성부터 건축정보모델링 데이터 기반 3D 모델링까지 시뮬레이션 턴키 기능 제공 어드밴텍이 디지털 트윈 환경 구축을 위한 고성능 서버 ‘SKY-620V3’을 시장에 내놨다. SKT-620V3는 인텔 제온 스케이러블 CPU와 엔비디아 L40S GPU가 탑재됐다. 특히 L40S는 엔비디아 에이다 러브레이스(NVIDIA Ada Lovelace) 아키텍처 기반 기술로, 인공지능(AI) 기능을 가속화하는 DLSS 3과 8비트 부동소수점(FP8) 등 설계를 갖췄다. 아울러 6개의 L40S를 수용하기 위해 2U 사양의 스토리지 아키텍처를 적용했다. 이를 통해 신속한 디지털 트윈 환경 생성이 가능하다. 또 거대언어모델(LLM) 추론 및 교육, 그래픽 및 비디오 애플리케이션 워크로드 기능을 고도화하는 데 특화됐다. 이번 신모델은 앞선 성능을 바탕으로, 3D 시뮬레이션 분야의 급증하는 수요에 대응하고, 성장을 지원하는 데 기여할 것으로 기대받고 있다. 특히 설계, 훈련, 검증 등에 최적화된 설계를 통해 개인용 아바타 생성부터 건축정보모델링(BIM) 데이터 기반 3D
실제 사람과 영상 통화하는 것 같은 혁신적인 실시간 소통 경험 제공 투플랫폼이 비주얼 생성 AI 모델 ‘수트라 아바타(SUTRA Avatar)’를 공식 론칭했다고 27일 밝혔다. 투플랫폼은 자체 거대언어모델(LLM) ‘수트라(SUTRA)’를 토대로 만든 수트라 아바타를 통해 엔터프라이즈 고객 중심의 비즈니스를 전개할 계획이다. 삼성전자 최연소 임원 출신의 프라나브 미스트리(Pranav Mistry)가 창업해 관심을 모은 투플랫폼은 지난 3월 AI 활용 상의 언어 격차를 줄이는 다국어 특화 LLM인 수트라를 공개한 바 있다. 수트라의 다국어 생성 능력, 비용 효율성 등을 강조하며 기업 고객 유치에 이어 비주얼 생성 모델까지 론칭해 투플랫폼의 B2B 비즈니스에 힘이 실릴 예정이다. 수트라 아바타는 투플랫폼이 독자적으로 개발한 비주얼 생성 AI 모델로, 실제 사람과 영상 통화를 하는 것 같은 혁신적인 실시간 소통 경험을 제공한다. 텍스트 또는 오디오 입력을 통해 4K 해상도의 AI 아바타를 즉석에서 만들어내고, 이 아바타가 사용자의 말에 실시간으로 반응하는 비디오콜을 구현할 수 있다. 광범위한 맞춤 옵션을 제공해 다양한 외모, 표정, 감정을 구현하며 자연스러운 제
전문가가 고품질의 일관된 다국어 커뮤니케이션 취하도록 지원 딥엘이 번역 일관성과 정확성을 높이는 ‘용어집’ 기능 업데이트를 발표했다. 이번 업데이트를 통해 ‘스마트 용어집’ 생성 기능이 업계 최초로 제공되며 지원 언어도 추가됐다. 이 외에도 크롬, 엣지 등 웹 브라우저 확장 프로그램과 구글 워크스페이스 및 마이크로소프트 365등 여러 웹, 앱 프로그램에서도 용어집 기능을 지원해 기존 워크플로우에 원활하게 통합하고 개선된 사용자 경험을 제공한다. 크리스토퍼 오즈번(Christopher Osborne) 딥엘 제품 담당 부사장은 “AI 번역은 오늘날 언어의 장벽을 극복하고자 하는 글로벌 비즈니스 소통에 필수”라며, “딥엘의 용어집 기능은 고유한 용어의 일관된 번역을 지원함으로써 수준 높은 번역 품질과 전문성을 보장한다”고 전했다. 이어 그는 “우리는 전 세계 10만 여 고객을 위해 사용자 경험을 지속해서 개선하며, 향상된 가치와 ROI를 제공하기 위한 방법을 끊임없이 모색하고 있다”면서 “업데이트된 용어집은 나은 효율성, 접근성, 사용자 편의성을 제공해 조직이 원하는 맞춤화와 일관성을 달성하는 동시에 수동 번역이나 검색 및 교체 도구와 같은 비용이 많이 드는 대안
디셈버앤컴퍼니는 자사 대표 주식투자 알고리즘인 미국주식 및 한국주식 솔루션에 생성형 AI 거대언어모델(LLM)을 적용할 계획이라고 13일 밝혔다. 이로써 더 똑똑해진 AI가 추가적인 수익률과 편리한 사용성 등 한층 더 개선된 성과를 가져다 줄 것으로 기대된다. 핀트 미국주식 및 한국주식 솔루션은 코스콤 로보어드바이저 테스트베드에 각각 2차와 19차에 등재돼 장기간 높은 수익률로 이미 좋은 성과를 거두고 있다. 실제로 미국주식 솔루션의 누적수익률은 133.02%(2017년 5월 공시 시작), 한국주식은 14.78%(2022년 8월 공시 시작)를 기록 중이다. 이 같은 성과는 다년간 쌓아온 핀트만의 자체 AI 기술력이 바탕이 됐다. 핀트 주식투자 솔루션에는 하이테크 AI 기술이 대거 탑재돼 있다. 이는 주식 가격 데이터에 기반한 테크니컬 모델과 재무제표 등 펀더멘탈 데이터 모델에 앙상블 기법을 활용한 핀트 고유의 AI 기술로, 고도화된 AI 기술을 활용해 개별종목의 성장성을 판단한다. 향후 6개월 간 좋은 성과를 보여줄 가능성이 높은 종목을 포트폴리오에 편입하고 실시간 리밸런싱을 진행한다. 대규모 데이터에 대한 자체 딥러닝 기술과 팩터 분석 기법을 결합해 안정적
올거나이즈가 이원강 전 엑스엘에이트 한국법인장을 부대표로 영입했다고 10일 밝혔다. 올거나이즈 이원강 부대표는 엑스엘에이트 한국법인장, 서울시 버스정책과장, 샌프란시스코 영사 등 다양한 공공 및 민간 분야에서 풍부한 경험을 쌓았다. 이원강 부대표는 2005년 제49회 행정고시에 합격한 후 2007년부터 공직 커리어를 시작했으며, 2017년에는 인사혁신처와 청와대에 파견돼 중요한 역할을 맡았다. 이후 2018년 서울시 평가담당관으로 근무하다가 2019년부터 3년간 샌프란시스코 영사로 활동했다. 2022년 서울시 버스정책과장을 역임한 후, 같은 해 4월부터 구어체 특화 AI 기계 번역 기술 스타트업 엑스엘에이트의 한국법인장으로 활동하며 AI 사업 경험을 쌓았다. 이원강 부대표는 올거나이즈에 합류해 한국의 B2B AI 관련 사업 운영을 총괄하게 된다. 올거나이즈는 한미일 엔터프라이즈 기업 300여 곳을 고객사로 두며, 한국과 일본의 기업용 AI 시장에서 빠르게 성장중이다. 올거나이즈는 한국에서의 성장을 가속화하기 위해 공공 및 글로벌 시장에 대한 인사이트와 AI 비즈니스의 실질적 성장 경험을 가진 이원강 부대표를 영입했다. 이원강 부대표와 함께 2025년 일본 도
우리는 LLM 시대를 살고 있다 AI 기술의 급속한 발전 가운데, 대규모 언어 모델(Large Language Models, LLM)은 특히 눈에 띄는 진보를 이루고 있다. 지난 2022년 11월 등장한 GPT-3.5와 같은 모델이 자연어 처리를 혁신하며, 다양한 산업에서 영향력을 확대하고 있음을 의미한다. LLM은 방대한 양의 텍스트 데이터를 학습해 언어의 구조와 의미를 이해하고, 이를 바탕으로 자연스러운 텍스트를 생성할 수 있는 AI 모델이다. 초기 모델에서 최근 GPT-4o에 이르기까지 LLM은 더 많은 데이터와 복잡한 알고리즘을 통해 정확하고 다양한 언어 생성 및 이해 능력을 증명하고 있다. 챗GPT가 주목받았던 이유 중 하나는 사용자가 원하는 답변을 신속히 생성해낸다는 점이었다. 이 같은 관점에서 LLM은 고객 서비스에 적합한 기술이라는 평가를 받고 있다. 특히 AI 챗봇과 가상 어시스턴트는 고객 지원을 혁신하고 있다. 이들은 사용자 질문에 즉각적으로 반응하며, 특히 비대면 서비스가 중요해진 현 시대에 24시간 고객 지원을 제공함으로써 서비스의 접근성과 효율성을 높이고 있다. 자동화한 콘텐츠 생성 기능도 LLM의 주요 강점이다. 사용자는 LLM을 활
"AI의 과학적 혁신을 계속 유용하게 발전시키는 것이 오픈AI의 목표" 오픈AI의 제이슨 권 최고전략책임자(CSO)가 인공지능(AI) 기술이 발전할수록 AI에 대한 통제력도 향상돼야 한다는 견해를 밝혔다. 제이슨 권은 12일 서울 중구 페럼타워에서 서울대가 주최한 '서울 AI 정책 콘퍼런스 2024' 대담에서 AI의 안전과 관련한 질문에 "어떻게 시스템이 운영되고 어떤 식으로 통제하느냐의 문제"라고 말했다. 이어 그는 "AI 기능이 발전하면 통제하는 능력도 개선되는 것이 맞다"며 "챗GPT도 예전 모델과 비교하면 얼마나 발전했는지 알 수 있다. 지금은 바람직하지 않은 콘텐츠를 요청하면 챗GPT는 바로 제시하지 못한다"고 덧붙였다. 또 "궁극적으로 AI의 안전성은 우리가 원하는 방향으로 행동하도록 하는 것"이라며 "인간 사회가 이 시스템을 관리·통제할 수 있어야 한다"고 강조했다. 그는 오픈AI가 추구하는 AI 방향에 대해서는 "AI의 과학적 혁신을 계속 유용하게 발전시키는 것"이라며 "사람들의 생산성을 높이고 안전성을 확보해야 하는 것이 목표"라고 답했다. 그러면서 "한국에서 인구 5000만 명 정도 가운데 적극적으로 챗GPT를 쓰는 사람은 약 100만 명"
7월 말 기준 1700개가 넘는 LLM 모델이 제출되는 등 많은 참여 이어져 업스테이지와 한국지능정보사회진흥원(이하 NIA)이 공동 운영하는 ‘Open Ko-LLM 리더보드’가 8월 12일부터 새로운 벤치마크를 적용한 시즌 2로 전면 개편된다. Open Ko-LLM 리더보드는 ’23년 9월 민관협력을 통해 개설된 국내 최대 개방형 한국어 거대언어모델(LLM) 평가 체계로, 산·학·연 각계 분야에서 7월 말 기준 1700개가 넘는 LLM 모델이 제출돼 경쟁하는 등 많은 관심과 참여가 지속되고 있다. 최근 LLM 기술이 빠르게 발전함에 따라, 1년 전에 만들어진 리더보드 벤치마크의 개선 필요성이 대두됐다. 이에 따라 업스테이지와 NIA는 기존 벤치마크를 전면 폐지하고 새로운 성능 평가 지표를 적용한 Open Ko-LLM 리더보드 시즌 2 운영을 시작한다. 새롭게 추가된 벤치마크는 Ko-GPQA(대학원 수준 추론), Ko-WinoGrande, Ko-GSM8K(초등 수학), Ko-EQ-Bench(감성), Ko-IFEval(지시 이행), KorNAT-Knowledge(한국어 신뢰성), KorNAT-Social-Value(사회적 가치), Ko-Harmlessness(무
“솔루션에 인공지능 기술 이식해 수익구조 다각화할 것” 사이냅소프트가 코스닥 상장을 위한 예비심사에 통과했다. 이로써 상장 초기 작업에 돌입했다. 사이냅소프트는 생성형 인공지능(AI) 기반 디지털 문서 기술 업체다. 그동안 축적한 문서 디지털화, 문서 구조 분석 등에 대한 노하우를 활용해 각종 국내 기업의 생산성 향상을 지원한 바 있다. 특히 지난 5월 출시한 문서 구조 분석 솔루션 ‘도큐애널라이저’를 통해 각 기업이 진행한 AI 전환 과정에서 디지털 자산화에 기여했다. 현재는 자체 거대언어모델(LLM) ‘사이냅 DU LLM)’을 개발하고 있다. 사이냅소프트는 향후 코스닥 상장으로 확보되는 자금을 활용해 AI 기술을 디지털 문서 솔루션에 이식하겠다는 로드맵을 설계했다. 이와 함께 모든 솔루션을 서비스형 소프트웨어(SaaS)로 전환하는 작업도 병행한다. 전경헌 사이냅소프트 대표는 “모든 제품과 서비스에 AI 기술을 적용해 기술 확장과 신규 사업 발굴을 노리고 있다”며 “이 밖에도 솔루션의 SaaS 전환을 확대해 수익구조를 다각화하고, 지속적인 성장을 실현할 계획”이라고 알렸다. 헬로티 최재규 기자 |