에이프리카가 오는 20일부터 22일까지 일산 킨텍스에서 열리는 ‘2024 스마트건설엑스포’에 참가해 프라이빗(Private) LLM(대규모 언어 모델)기반 RAG(Retrieval-Augmented Generation) 솔루션인 ‘가젤RAG’와 LLMOps 솔루션인 ‘치타’(Cheetah)를 선보인다. 이번 엑스포는 국토교통부가 주최하고 한국토지주택공사가 주관하는 국내 최대 스마트건설 전문 전시회로, 최신 기술과 혁신적인 디지털 솔루션을 한자리에서 만나볼 수 있는 자리다. 에이프리카는 스마트건설 얼라이언스 특별관의 빅데이터·AI 활용 파이프라인 섹션에 참여해 건설 엔지니어링 설계 문서에 특화된 프라이빗 LLM 기반 RAG와 LLMOps 솔루션을 전시함으로써 건설업계의 디지털 전환을 지원할 계획이다. 에이프리카의 프라이빗 LLM 솔루션인 가젤RAG는 엔지니어링 및 건설 분야의 문서 검색 효율을 향상시킨다. 한국생산기술연구원과 공동으로 인공지능 모델 연구를 진행해 엔지니어링 설계 문서에 특화된 정교한 질의응답 기능을 제공한다. 사용자가 자연어(NLP)로 질문을 입력하면 관련성이 높은 콘텐츠를 자동으로 추출해 효율적인 검색이 가능하다. 특히 최대 95%에 이르는
상용화된 제품과 해외 시장에 적합한 서비스 운영 능력 인정받아 선정돼 베슬에이아이가 오스트리아 정부가 주관하고 연방 경제노동부가 후원하는 'GIN-Go Austria' 프로그램에 최종 선정됐다고 21일 밝혔다. 해당 프로그램은 아시아와 이스라엘 기반의 혁신적 딥테크 스타트업의 유럽 시장 진출을 돕는 엑셀러레이팅 방식으로 구성됐다. 2015년부터 매년 혁신 기업을 선정해 왔으며, 베슬에이아이는 이미 상용화된 제품과 해외 시장에 적합한 서비스 운영 능력을 인정받아 선정됐다. 프로그램 관리는 오스트리아 경제 지원 기관인 aws(Austria Wirtschaftsservice)와 FFG가 맡았다. 특히, aws는 유럽투자은행(EIB), 유럽투자기금(EIF), 국제금융공사(IFC), 세계은행(WB) 등과 협력하며 국제 금융 기관으로 평가받고 있으며, 3만1000개 이상의 혁신 기업을 지원하고 있어 베슬에이아이의 유럽 진출에 큰 도움이 될 전망이다. 베슬에이아이는 클라우드 환경 통합 관리, GPU 및 컴퓨팅 자원 최적화를 통해 AI 학습 시간과 비용을 절감하는 MLOps, LLMOps 플랫폼으로 높은 평가를 받았다. 특히, 컴퓨팅 자원과 운영 비용이 몇 배로 소요되는
행사 중 RAG 활용해 복잡한 추론 및 업무 대신 처리하는 'AI 에이전트' 개발 진행 베슬에이아이가 오는 11일부터 13일(현지시간)까지 실리콘밸리 팔로알토에서 AI 해커톤 'Agentic RAG-A-THON'을 개최한다. 이번 행사는 AI 스타트업인 라마인덱스, 파인콘과 공동으로 주최하며, 글로벌 VC 앤드리슨 호로위츠(a16z)가 주관하는 샌프란시스코의 연례 IT 행사 '테크위크'의 일환으로 진행된다. 공동 주최사인 라마인덱스는 대형언어모델(LLM)의 활용을 돕기 위한 데이터 프레임워크를 제공하는 기업으로, 구조화된 데이터뿐 아니라 텍스트와 이미지 같은 비정형 데이터까지 처리하도록 지원한다. 파인콘은 AI 모델이 방대한 데이터를 효율적으로 저장하고 활용할 수 있게 돕는 '벡터 데이터베이스'를 운영 중이다. 특히, 파인콘은 지난해 a16z 등 유수 투자자로부터 1조 원 이상의 기업가치를 인정받은 유니콘 스타트업으로 주목받은 바 있다. 이번 행사는 AI 시장의 폭발적인 성장에 맞춰 혁신적인 AI 기술 발전을 선도하는 수 백명 규모의 현직자가 오프라인에서 만나는 자리로 꾸며졌다. 특히 a16z, 500 글로벌, 오픈AI, 미스트랄 AI, SAP 등 글로벌 V
이번 투자로 LLMOps 기술 강화 및 해외 시장 진출 가속화에 집중할 계획 베슬에이아이가 약 1200만 달러(158억 원) 규모의 시리즈 A 투자를 유치했다고 8일 밝혔다. 베슬에이아이는 대규모 언어 모델(LLM) 및 생성형 AI 시대의 급격한 컴퓨팅 수요 증가에 대응해 효율적인 AI 인프라 구축과 운영을 지원하는 MLOps 플랫폼을 제공하고 있다. 특히, 온프레미스와 클라우드 자원을 통합 관리하는 하이브리드 솔루션을 통해 고객사의 데이터 처리 및 모델 학습 시간을 대폭 단축시키고 최대 80%의 컴퓨팅 비용 절감을 가능하게 한다. 다양한 클라우드 환경을 단일 인터페이스로 관리하는 기술력 또한 세계 시장에서 인정받고 있다. 투자사들은 베슬에이아이의 성장 잠재력과 선제적 시장 대응에 주목했다. AI 기술이 제조, 금융, 공공 등 다양한 산업으로 확산되면서 MLOps에서 LLMOps으로의 전환이 가속화하는 가운데, ‘VESSL’ 플랫폼의 높은 필요성과 활용 가능성이 기대된다는 전망이다. 이미 국내에서는 현대자동차, LG전자, 티맵 모빌리티 등 대기업과 협업 중이다. 해외에서는 구글 클라우드, 오라클 등 빅테크와의 파트너십은 물론 MIT, 스탠포드 등 일류 대학과
벡터 데이터베이스 기술 활용해 LLM 서비스에 필수적인 RAG 시스템 지원 디노티시아는 최근 베슬에이아이와 전략적 업무 협약(MOU)을 체결했다고 발표했다. 이번 협약은 AI 및 벡터 데이터베이스 기술 분야에서 양사의 첨단 기술을 융합해 차세대 AI 솔루션 개발 및 시장 경쟁력 강화를 목표로 한다. 디노티시아는 벡터 데이터베이스 시스템과 하드웨어 가속기 개발에서 독보적인 기술력을 보유하며, 베슬에이아이는 확장성과 안정성이 뛰어난 LLMOps(Large Language Machine Operations) 솔루션을 통해 대규모 AI 서비스 운영과 관리를 효율화하는 기술을 제공한다. 이번 MOU을 통해 양사는 벡터 데이터베이스 기술을 활용해 LLM 서비스에 필수적인 RAG(Retrieval Augmented Generation) 시스템을 지원한다. 특히, 디노티시아의 벡터 데이터베이스가 베슬에이아이의 LLMOps 플랫폼에 통합됨으로써 AI 모델의 실시간 처리 능력이 대폭 향상될 것으로 기대된다. 양사는 이번 협약을 바탕으로 다양한 분야에서 긴밀히 협력할 계획이다. 이를 통해 기술 정보의 상호 공유와 공동 연구 개발을 촉진하고, 벡터 데이터베이스와 LLMOps 솔루
베스핀글로벌이 에이플랫폼과 데이터 플랫폼 구축 사업 협력을 위한 업무 협약을 체결했다고 24일 밝혔다. 이번 협약을 통해 양사는 국내 데이터 플랫폼 구축 사업 전반의 비즈니스 기회를 공동으로 모색하고 이와 함께 기술 협력을 추진한다. 베스핀글로벌은 데이터 플랫폼이 구축되는 인프라 환경에서부터 데이터 파이프라인과 거버넌스 영역, 그리고 ML 및 LLM 환경 구축에 있어 전문성을 제공할 예정이다. 에이플랫폼은 자사가 공급하는 솔루션인 ‘싱글스토어DB’를 통해 정형, 비정형 데이터를 실시간으로 수집, 저장, 분석할 수 있는 강력한 데이터 처리 환경을 담당한다. 싱글스토어DB는 온프레미스나 퍼블릭 클라우드, 프라이빗 클라우드 등 IT 환경의 제약 없이 구축할 수 있는 것이 강점이며 성능과 가용성, 안정성 측면에서도 높은 점수를 얻은 바 있다. 이렇게 서로 강점이 있는 영역에서 기술력을 결합함으로써 기존 IT 인프라에 구애받지 않으면서 빠르고 안정적인 데이터 분석 플랫폼 구축이 가능해질 것으로 기대된다. 베스핀글로벌과 에이플랫폼은 협약 체결을 계기로, 데이터 플랫폼 구축 사업 확대와 더불어 새로운 서비스 및 프로젝트 진행을 도모할 계획이다. 에이플랫폼은 하나의 플랫폼
베스핀글로벌은 최근 AI 중심의 사업 구조 재편에 따른 조직 개편을 단행하고 AI 매니지드 서비스 전문 기업(AI MSP)으로의 전환한다고 15일 밝혔다. 베스핀글로벌이 정의하는 AI 매니지드 서비스란 ▲AI 플랫폼의 설계와 구축 ▲GPU 운영 관리 ▲데이터 분석과 처리 ▲AI 모델링 ▲모델 튜닝 ▲MLOps ▲LLMOps ▲RAGOps ▲AI 애플리케이션 구축 ▲AI 응용 서비스 활용에 이르기까지 기업의 AI 도입과 개발의 전 여정을 지원하는 AI 서비스를 의미한다. 베스핀글로벌은 기존 클라우드 서비스 영역은 물론, AI 서비스에 대한 핵심 기술 역량을 확대하기 위해 기존 서비스 부문을 AI 중심의 본부 체제로 재편했다. 이 일환으로 내부 전문 인력을 결집해 데이터 AI 본부를 신설했다. 데이터 AI 본부는 크게 AI와 Data 전략, 컨설팅 및 모델 개발과 빅데이터 플랫폼 구축, 그리고 MLOps·LLMOps·RAGOps 구축 및 상품 개발 등의 사업을 전개할 예정이다. AI 개발과 활용에 특화된 자체 빅데이터 플랫폼 상품과 LLMOps 상품의 연내 출시도 준비하고 있다. AX 본부(옛 PS 본부)와 AIOps 본부(옛 MSP 본부)도 확대 개편됐다. A
딥네츄럴은 6월 19일부터 21일까지 서울 삼성동 코엑스에서 열리는 '제 13회 스마트테크코리아 2024(STK 2024)'에 참가해 자사의 최신 랭노드 엔터프라이즈(LangNode Enterprise) 솔루션을 선보인다. 스마트테크코리아는 국내 최대 미래 기술 전문 전시회다. AI를 중심으로 상품, 서비스의 제조 생산부터 유통과 물류, 소비의 과정에 적용되는 빅데이터와 클라우드, 로봇, 메타버스 등 최첨단 기술과 솔루션을 집중 조명하며 국내외 많은 참관객과 바이어가 참석한다. 딥네츄럴은 비즈니스 환경에 최적화한 LLMOps 솔루션을 제공하는 AI 스타트업으로, 고품질 언어 데이터 구축부터 파인튜닝, 양자화를 통한 성능 최적화, 효율적인 어플리케이션 개발 및 운영까지, LLM 적용의 전 과정을 지원한다. 올해 2월 MWC 2024에서 처음 선보인 랭노드는 LLM RAG 기반 AI 에이전트를 노코드로 개발, 테스트, 배포하는 솔루션이다. 개발자와 기획자가 함께 협업하며 LLM 기반 에이전트를 제작하고 빠르게 비즈니스에 적용할 수 있어 LLM을 도입하려는 기업에는 필수적이라는 반응이다. 특히, 이번 전시에서 선보이는 랭노드 엔터프라이즈는 데이터 보안이 중요한 은
코오롱베니트가 AI 및 대규모 데이터 운영 수요에 효과적으로 대응하기 위해 생성형 AI 운영에 최적화된 DB(데이터베이스) 솔루션 사업을 확대한다. 코오롱베니트는 최근 싱글스토어DB(SingleStoreDB)의 국내 독점 총판인 에이플랫폼과 ‘생성형 AI를 위한 데이터 인프라 및 DX 플랫폼 보급 확대’를 목표로 전략적 파트너십을 체결하고 상호 협력하기로 했다고 11일 밝혔다. 이번 협력의 핵심인 싱글스토어DB는 인메모리와 디스크를 모두 활용해 대규모 데이터를 빠르게 처리할 수 있는 차세대 클라우드 네이티브 DB 플랫폼이다. 이는 특히 생성형 AI 활용에 특화된 저장소인 벡터DB를 함께 지원해 복잡한 비정형 데이터를 벡터값으로 변환-저장하고 탐색과 처리 성능을 대폭 강화할 수 있다. 코오롱베니트는 이번 파트너십을 시작으로 ▲AI를 위한 실시간 데이터 처리 인프라 구축 ▲AI·LLM(거대언어모델) 학습 및 운영(LLMOps)을 위한 DX플랫폼 구축 ▲정형·반정형·비정형 데이터의 통합 관리 및 분석 등의 사업을 확대해 협력을 강화할 방침이다. 또한 1000여 개의 IT유통 파트너 네트워크를 기반으로 ‘AI 애그리게이터(AI Aggregator)’ 입지를 강화하고
국내 기업 유일하게 CB 인사이트 선정 LLMOps 핵심 기업 프롬프트 엔지니어링 부문 이름 올려 키토크 AI가 연내 기업공개(IPO)를 추진할 대표 주관사로 한국투자증권을 선정했다고 밝혔다. 한국투자증권은 최근 5개년 상장예비심사 승인율 1위와 더불어 2024년 1월 한국거래소에서 공식발표한 최근 5개년 주요 증권사 혁신기술기업 주관순위에서 28건으로, 17건의 미래에셋증권을 제치고 1위를 차지했다. 특히 담당 파트너인 김해광 상무는 업계에서 가장 큰 이슈였던 하이브, 다음소프트 등을 이끌었고 솔트룩스, 코난테크놀로지 등 최근 주목받는 AI 기업 상장을 진두지휘했다. 2014년 설립된 키토크 AI는 국내 기업으로는 유일하게 CB 인사이트 선정 LLMOps 핵심 기업 프롬프트 엔지니어링 부문에 이름을 올렸다. CB 인사이트는 투자자를 위한 고성장 산업 및 기업 정보를 제공하는 글로벌 시장조사 기업이다. 컴퓨팅 환경이 LLM 기반으로 조성되면서 기존 산업지도가 대폭 개편됐다. 키토크 AI는 프롬프트 엔지니어링 부문에 소개됐으나, 실제로는 데이터 어노테이션, ML 트레이닝 데이터 큐레이션, 벡터 데이터베이스, LLM 애플리케이션 개발까지 총 5개 부문 솔루션을
LLMOps 솔루션 및 노코드 LLM 어플리케이션 빌더 LangNode 선보여 딥네츄럴(DeepNatural)이 스페인 바르셀로나에서 열린 세계적인 통신 및 기술 행사 MWC 2024에 참가해 자사가 개발한 LLMOps 솔루션을 선보였다고 밝혔다. 딥네츄럴은 비즈니스 환경에 최적화한 LLMOps 솔루션을 제공하는 AI 스타트업으로, 고품질 언어 데이터 구축부터 파인튜닝, 양자화를 활용한 성능 최적화, 효율적인 어플리케이션 개발 및 운영까지 LLM(Large Language Models) 적용의 전 과정을 지원한다. 특히 딥네츄럴은 이번 MWC에서 노코드 LLM 어플리케이션 빌더 LangNode를 처음 선보였다. 머신러닝 엔지니어가 파인튜닝한 LLM을 LangNode에 등록하면, 기획자와 프롬프트 엔지니어가 쉽게 이용할 수 있다. 코딩을 할 줄 모르는 비개발자도 파인튜닝된 LLM을 로드해 파이프라인을 설계, 테스트, 배포한다. 파라미터 조정 및 프롬프트 엔지니어링도 가능하다. 이러한 노코드 도구는 머신러닝 엔지니어와 기획자, 프롬프트 엔지니어가 효과적으로 협업하기 위해 필요한 툴로 평가받는다. 이를 통해 기업은 고급 언어 모델을 활용해 비즈니스 프로세스를 혁신
킨드릴이 구글 클라우드와 파트너십을 확대한다고 15일 밝혔다. 킨드릴은 이를 통해 책임 있는 생성형 AI 솔루션을 개발하고 고객들의 도입을 가속화한다고 전했다. 킨드릴과 구글 클라우드는 2021년부터 협력해 글로벌 기업이 구글 클라우드의 고급 AI 역량과 신뢰할 수 있는 인프라를 통해 혁신할 수 있도록 지원해 왔다. 킨드릴은 파트너십의 다음 단계로 구글의 대형 언어 모델(LLM)인 제미니(Gemini)를 비롯한 구글 클라우드의 사내 AI 역량과 고객의 생성형 AI 솔루션 개발 및 배포를 지원하는 킨드릴의 전문적인 관리 서비스를 결합하는 데 중점을 둘 것이라고 설명했다. 이번 파트너십 확대로 킨드릴의 포괄적인 자문, 구축 및 킨드릴 컨설트 서비스는 고객이 비즈니스 목표에 부합하는 최적의 AI 활용 사례와 데이터 기반을 파악하는 데 도움을 줄 것이다. 또한 킨드릴은 제미니와 같이 구글 클라우드의 기존 기술 및 새로운 기술 구현을 지원해온 폭넓은 경험을 바탕으로 기업이 AI 및 생성형 AI를 통해 비즈니스 혁신을 지속할 수 있도록 지원한다. 또한 킨드릴은 구글 클라우드 코어텍스 프레임워크를 활용하여 구글 클라우드에서 고객의 전사적 자원 관리(ERP) 데이터로부터
LLM 파인튜닝 기능, 프롬프트 관리 기능, 벡터데이터 관리 등을 순차적으로 지원 에이프리카가 6일 LLMOps 플랫폼을 바탕으로 엔터프라이즈 LLM 시장에 본격적으로 진출한다고 밝혔다. 챗GPT의 등장으로 생성형 인공지능(AI)이 확산되면서, 기업들은 물론 공공에서도 초거대언어모델(LLM)을 도입하려는 시도가 늘어나고 있다. 대규모 데이터셋으로 훈련한 수천억 개의 매개변수를 가진 LLM을 도입하여 활용하기 위한 방안으로 LLMOps가 주목받고 있다. 일반적인 MLOps가 하나의 AI 모델을 개발하고 최적화해 서비스를 제공하는 방법론이라면, LLMOps는 이를 LLM에 적용해 기업의 내부 보안 정보 유출 방지와 같은 특정 요구에 맞는 LLM 선정 및 학습, 배포 등 운영을 위한 사이클을 통합 관리하는 체계다. 따라서 이 LLMOps를 효과적으로 구현하기 위해서는 MLOps와 LLM에 대한 기술과 경험이 필수적이다. 에이프리카는 이미 2019년부터 MLOps 플랫폼 소프트웨어 '치타'를 개발해 경찰청, 광주과학기술원, 현대글로비스 등 주요 공공기관 및 기업에 공급함으로써 AI 모델 개발에 필요한 데이터 관리부터 모델 개발, 배포와 HPC 인프라 운영까지 전 과