오케스트로가 과학기술정보통신부와 한국지능정보사회진흥원이 주관하는 ‘초거대 AI 기반 플랫폼 이용지원 사업’에 공급기업으로 선정됐다고 2일 밝혔다.

 

초거대 AI 기반 플랫폼 이용지원 사업’은 디지털플랫폼정부 혁신 선도를 위해 초거대 인공지능을 공공 및 민간 기업에서 자유롭게 이용할 수 있도록 지원하는 사업이다. 초거대 AI 플랫폼을 보유한 공급기업과 활용 수요를 가진 중소·벤처기업 및 공공 기관을 매칭해 공급기업이 수요기관에게 심층 컨설팅, PoC(Proof of Concept·개념증명), 최적화·고도화, 플랫폼 이용 환경 등 종합적인 서비스를 제공하도록 지원한다.

 

오케스트로는 프라이빗 및 멀티·하이브리드 클라우드 구축부터 클라우드 네이티브 설계 및 운영까지 엔드투엔드 서비스를 제공하는 클라우드 전문 기업이다. 클라우드 기술력을 바탕으로, IaaS, PaaS, SaaS 등 클라우드 풀 스택 지원을 위한 솔루션과 클라우드 네이티브 기반의 생성형 AI 솔루션을 보유하고 있다.

 

 

이번 사업을 통해 오케스트로는 클라우드 네이티브 기반의 대화형 인공지능(Conversational AI) 솔루션을 제공할 계획이다. 손쉽게 생성형 AI를 만들 수 있는 관리자 기능과 검색을 통해 원하는 정보를 얻을 수 있는 사용자 기능을 구현할 예정이다. 관리자 기능에서는 프로그램에 대한 지식 없이 특정 영역에 대한 생성형 AI를 구축할 수 있으며 생성형 AI에 대한 특성을 설정해 페르소나를 부여할 수 있다.

 

사용자들은 관리자가 미리 구축해둔 특정 주제나 용도에 특화된 생성형 AI를 선택해 사용할 수 있다. 사용자가 특정 생성형 AI를 선택하면, 그 생성형 AI가 가지고 있는 전문 지식 영역에 대해 질문하고 답변받을 수 있다.

 

특히 오케스트로는 검색 증강 생성(Retrieval Augmented Generation, RAG) 기술을 활용해 대규모 언어 모델(Large Language Model, LLM)에서 발생하는 환각현상(Hallucination)을 해소했다. 관리자가 업로드한 문서 내의 정보만을 활용해 답변하도록 설정할 수 있으며 필요 시 답변 생성에 활용한 근거 문서를 사용자에게 제공한다.

 

또한 오케스트로는 고객 도메인에 특화된 LLM을 안정적으로 파인 튜닝하고 배포할 수 있도록 클라우드 네이티브를 기반으로 솔루션을 설계했다. 클라우드 네이티브를 통해 폐쇄망 및 멀티 하이브리드 클라우드에서 고객의 도메인에 대한 데이터 유출 없이 안전하게 AI를 학습하고 안정적으로 배포할 수 있다.

 

박소아 오케스트로 DX융합기술원장(부사장)은 “오케스트로는 총 인원의 80% 이상이 기술 인력으로 이루어진 AI 클라우드 전문 기업이다. 초거대 AI분야에 대한 지적재산권을 보유하고 있으며 LLM 솔루션 PoC 수행 등 초거대 AI 수행 경험과 노하우를 가지고 있다”고 강조했다.

 

또한 “오케스트로는 클라우드 및 AI 역량을 바탕으로 수요기관에 혁신적인 솔루션을 제공할 수 있을 것이라 확신한다”며 “앞으로도 지속적인 연구개발과 투자로 기술력을 강화하고, 고객의 요구에 부응하는 고객 중심의 클라우드 기반 인공지능 서비스를 제공하겠다”고 밝혔다.

 

헬로티 이창현 기자 |