클라우데라가 엔비디아 기술로 구동되는 온프레미스 AI 추론 기능을 발표한다. 클라우데라는 클라우데라 AI 인퍼런스와 트리노 기반 데이터 웨어하우스를 온프레미스 환경으로 확장하고 데이터 비주얼라이제이션의 AI 및 분석 역량을 강화한다.

 

클라우데라 AI 인퍼런스는 온프레미스 환경을 지원해 기업이 대규모언어모델, 이상 거래 탐지, 컴퓨터 비전, 음성 AI 등 다양한 모델을 자체 데이터센터에서 배포하고 확장하도록 지원한다. 해당 기능은 엔비디아 AI 스택과 블랙웰 GPU, 다이나모-트리톤 추론 서버, NIM 마이크로서비스로 가속된다. 이를 통해 기업은 클라우드 비용 변동성을 줄이고 지연 시간과 규제 준수, 데이터 프라이버시를 통제하며 프로덕션 단계 이후에도 예측 가능한 경제성을 확보한다.

 

트리노 기반 클라우데라 데이터 웨어하우스는 데이터센터 환경을 지원해 중앙화된 보안과 거버넌스, 가시성을 확보한다. AI 기반 분석 및 시각화 기능이 통합돼 모든 데이터 전반에서 인사이트 접근 속도를 높이고 보안과 운영 통제를 유지한 상태에서 데이터를 실행 가능한 성과로 전환한다.

 

 

클라우데라 데이터 비주얼라이제이션도 업데이트한다. AI 어노테이션을 통해 차트와 시각 자료에 대한 요약과 맥락 정보를 자동 생성하고 복원력 높은 AI 기능으로 일시적 문제를 안정적으로 처리한다. AI 쿼리 로깅 및 추적 기능은 메시지 ID와 타임스탬프, 질문 내용을 기록해 투명성을 높이며 간소화된 관리 설정은 SSO 기반 설정을 지원해 관리 편의성을 강화한다.

 

레오 브루닉 클라우데라 최고제품책임자(CPO)는 “이번 온프레미스 확장은 기업에게 전례 없는 수준의 AI 통제력과 유연성을 제공한다”며 “데이터센터에서 클라우데라 AI 인퍼런스, 트리노 기반 데이터 웨어하우스, 데이터 비주얼라이제이션을 활용하면 가장 중요한 데이터를 이동하지 않고 AI와 분석을 안전하게 배포할 수 있다. 이는 데이터 보안, 규제 준수, 운영 효율성을 확보하고 혁신과 인사이트를 도출할 수 있는 방법”이라고 말한다.

 

팻 리 엔비디아 전략적 기업 파트너십 부사장은 “기업 데이터의 가치는 AI를 데이터가 존재하는 어느 곳에 안전하고 유연하게 배포할 수 있을 때 실현된다”며 “클라우데라와의 협력을 통해 엔비디아 블랙웰 GPU, 다이나모-트리톤 및 NIM 마이크로서비스를 사용해 AI 인퍼런스를 배포하고 확장할 수 있으며 통제력과 예측 가능한 경제성, 데이터센터 효율성을 확보할 수 있다”고 밝힌다.

 

헬로티 구서경 기자 |