AMD가 보안 중심 엔터프라이즈 AI 기업 코히어(Cohere)와 글로벌 협력을 확대한다고 24일 밝혔다. 이번 협력 강화로 코히어 고객들은 ‘커맨드 A(Command A)’, ‘커맨드 A 비전’, ‘커맨드 A 번역 모델’, ‘노스(North)’ 등 주요 AI 제품군을 AMD 인스팅트(Instinct) GPU 기반 인프라에서 활용할 수 있다. 이를 통해 전 세계 기업과 소버린 AI 프로젝트는 성능과 총 소유 비용(TCO) 측면에서 더 많은 선택지를 확보하게 된다.

 

AMD는 코히어의 노스 플랫폼을 자사 내부 엔터프라이즈 AI 포트폴리오에 통합할 계획도 밝혔다. 이에 따라 코히어의 기술은 AMD 내부와 엔지니어링 AI 워크로드에서 핵심적으로 활용될 예정이다.

 

닉 프로스트 코히어 공동 설립자는 “AMD 인스팅트 GPU에서 코히어 모델과 노스를 사용할 수 있게 되면서 협력 관계가 한층 확대됐다”며 “공공과 민간 고객들이 우리의 보안 최적화 AI 제품군을 AMD 인프라에서 실행하면 훨씬 더 큰 유연성을 얻게 될 것”이라고 말했다. 그는 “AMD는 AI 인프라를 통해 매력적인 TCO를 제공하기 때문에 전 세계 소버린 AI 프로젝트에서 중요한 선택지가 될 것”이라고 덧붙였다.

 

 

밤시 보파나 AMD AI 부문 수석 부사장은 “코히어의 풀스택 AI 솔루션이 AMD 인스팅트 인프라에 배포되면서 기업과 정부가 성능, 효율성, 메모리 용량을 기반으로 AI 확장을 가속화할 수 있게 됐다”며 “고객은 AMD 플랫폼을 통해 총 소유 비용 절감과 에너지 효율을 동시에 얻을 수 있다”고 설명했다.

 

이번 발표는 두 회사가 AMD 인스팅트 GPU 기반 인프라에서 코히어의 초거대 언어모델(LLM)을 최적화해 온 협업을 확대한 것이다. 코히어는 지난 6월 열린 AMD의 ‘어드밴싱 AI 2025’ 행사에서 AMD 기술로 구동되는 자사 모델이 이미 다양한 기업에 배포되고 있다고 밝힌 바 있다. 이 모델들은 긴 문맥 추론과 복잡한 워크로드 처리에 충분한 메모리 대역폭과 용량을 제공하면서도 배포 규모와 운영 비용을 줄이는 효과를 보였다.

 

보안과 프라이버시를 강조하는 코히어 AI 모델과 AMD의 고성능 인프라 결합으로 두 회사는 국가 데이터 보호와 규제 요건을 충족하는 소버린 AI 구축을 지원할 수 있게 됐다. 이를 통해 정부와 기업은 맞춤형 조건에 맞는 유연성과 신뢰성을 동시에 갖춘 AI 시스템을 구현할 수 있는 기반을 마련했다.

 

헬로티 이창현 기자 |