GPU 리소스 자동 스케줄링, 초단위 배포 환경 구성, 고병렬 추론 테스트 등 핵심 기능 공개 예정
케이투스(KAYTUS)가 오는 5월 14일부터 16일까지 서울 코엑스에서 개최되는 ‘AI EXPO KOREA 2025’에 참가해 자사의 AI DevOps 소프트웨어 ‘MotusAI’와 통합형 AI DevOps 인프라 솔루션을 선보인다.
케이투스는 이번 전시를 통해 복잡한 AI 인프라 운영 환경에서 효율적인 리소스 관리와 빠른 모델 배포를 가능케 하는 턴키 기반의 엔드투엔드 솔루션을 집중 조명할 예정이다.
생성형 AI 기술이 학습 단계를 넘어 실시간 추론과 대규모 배포로 확산되는 가운데, 기업들은 GPU 활용률 저조, 데이터 병목 현상, 느린 배포 속도 등 AI 운영상의 다양한 장애물에 직면하고 있다. 케이투스는 이러한 과제를 해결하기 위해 AI DevOps 플랫폼 ‘MotusAI’를 중심으로 한 통합 클러스터 시스템을 통해 모델 개발부터 배포, 운영까지 전 과정을 안정적이고 간결하게 연결하는 인프라 해법을 제시한다.
전시 부스에서는 MotusAI 기반 클러스터를 활용해 한 명의 운영자가 딥러닝 모델과 추론 서비스를 5분 이내에 배포하는 실시간 데모가 진행된다. 관람객은 GPU 리소스 자동 스케줄링, 초단위 배포 환경 구성, 고병렬 추론 테스트 등 핵심 기능을 직접 체험해볼 수 있다.
MotusAI는 효율적 GPU 자원 분할 및 온디맨드 할당 기능을 갖춘 고성능 AI DevOps 플랫폼으로, 클러스터 활용률을 평균 70% 이상으로 끌어올린다. 네트워크 친화성과 고급 스케줄링 전략을 바탕으로 수백 개의 포드를 신속히 기동하고, 기존 커뮤니티 스케줄러 대비 처리량을 5배 향상시키며 지연 시간을 5분의 1 수준으로 단축한다. 고가용성(HA) 아키텍처 기반으로 설계된 MotusAI는 장애 복구 자동화를 통해 애플리케이션 중단 시 수 초 내로 복구가 가능하며, 통합 GUI 환경을 통해 유지보수 및 모니터링도 간편하게 지원한다.
MotusAI는 파이토치, 텐서플로우, 메가트로, 딥스피드 등 다양한 프레임워크와 호환되며, 데이터 전송 가속 전략을 통해 원격 데이터 로딩과 캐시 지연을 줄여 학습 속도를 2~3배 향상시킨다. 또한 로우코드 환경을 통해 클릭 한 번으로 추론 서비스를 배포하고, 트래픽 급증에도 자동 확장을 통해 수만 건의 동시 요청에 밀리초 단위 응답 속도를 유지한다.
케이투스는 MotusAI를 자체 개발한 클러스터 하드웨어 플랫폼과 결합해 ‘KAYTUS AI DevOps 솔루션’으로 제공한다. 해당 솔루션은 연산 성능, 저장소, 네트워킹이 통합된 단일 시스템으로 구성되어, 클러스터 구성부터 성능 최적화, AI 워크플로우 자동화까지 지원하는 완전한 턴키 형태의 AI 인프라다. 또한, 사용자의 컴퓨팅 수요를 분석해 클러스터 설계부터 원클릭 배포까지 맞춤형 최적화를 제공하며, 다중 인스턴스 GPU 분할, 병렬 연산, 토폴로지 인식 등 핵심 기능으로 운영 효율을 극대화한다.
케이투스 관계자는 “MotusAI는 단순한 관리툴이 아닌, AI 전환을 가속화하고 운영 효율성을 근본적으로 끌어올리는 핵심 솔루션”이라며 “AI EXPO KOREA 2025에서 실제 비즈니스 환경에 즉시 적용 가능한 AI 인프라 레퍼런스를 제시할 것”이라고 밝혔다.
헬로티 서재창 기자 |
