클라우드플레어는 허깅페이스에서 클릭 한 번으로 클라우드플레어의 글로벌 네트워크에 AI 애플리케이션을 배포할 수 있도록 지원한다고 밝혔다.
클라우드플레어는 워커스 AI(Workers AI)를 일반 사용자도 이용할 수 있게 됨에(General Availability, GA) 따라, 허깅페이스 허브와 통합되어 모델 배포를 지원하는 최초의 서버리스 추론 파트너가 된다. 이로써 개발자가 인프라를 관리하거나 사용하지 않는 컴퓨터 용량에 대한 비용을 지불할 필요없이 전 세계를 대상으로 빠르고 쉽고 경제적으로 AI를 배포할 수 있도록 지원한다는 방침이다.
AI 혁신의 급속한 진전에도 불구하고 AI가 가진 잠재력과 기업에 선사하는 가치 사이에는 여전히 간극이 존재한다. 조직과 개발자는 GPU 또는 인프라를 설정 및 관리하거나 유지보수할 필요 없이도 합리적인 가격에 신속하게 실험하며 또 이 과정을 반복할 수 있어야 한다. 기업은 속도, 보안, 성능, 통합 가시성, 규정 준수를 지원하는 간편한 플랫폼을 통해 혁신적인 애플리케이션을 고객에게 더 빠르게 제공할 수 있어야 한다.
매튜 프린스 클라우드플레어 CEO 겸 공동 창업자는 "최근 생성형 AI 붐으로 인해 다수의 기업들이 AI에 막대한 시간과 비용을 투자하고 있다“며 ”그 중 일부는 효과가 있겠지만 데모는 쉬워도 이를 프로덕션에 적용하는 것은 매우 어렵다는 것이 현재 우리가 직면한 도전과제”라고 설명했다.
그는 이어 “클라우드플레어는 AI 기반 앱을 구축하는 데 드는 비용과 복잡성을 없앰으로써 이러한 문제를 해결하고자 한다”며 워커스 AI는 간단하고 경제적인 방식으로 AI를 대중화하려는 클라우드플레어와 허깅페이스의 노력을 바탕으로 우리는 개발자가 직접 모델을 선택하고 AI 앱을 글로벌로 즉시 확장할 수 있는 자유와 민첩성을 제공한다"고 말했다.
이제 워커스 AI는 일반 사용자도 이용할 수 있으며 클라우드플레어는 워커스 AI로 사용자들이 차세대 AI 애플리케이션을 위해 효율적이고 경제적으로 AI모델을 확장하고 배포하는데 필요한 엔드 투 엔드 인프라를 제공할 계획이다.
클라우드플레어는 최근 서울, 케이프타운, 더반, 요하네스버그, 부에노스아이레스, 멕시코시티, 뭄바이 등을 포함한 전 세계 150여개 도시에 GPU를 보유하고 지연을 최소화한 추론을 지원한다. 또한 워커스AI는 미세 조정된 모델 가중치를 지원하도록 확장돼 조직이 보다 전문화된 도메인별 애플리케이션을 구축하고 배포할 수 있도록 지원한다.
일반 사용자도 클라우드플레어의 워커스 AI를 이용할 수 있게 됨에 따라 이제 개발자는 허깅페이스에서 한 번의 클릭으로 직접 AI 모델을 배포할 수 있다. 개발자는 인기 있는 오픈 소스 모델 중 하나를 선택한 다음 ‘클라우드플레어 워커스AI로 배포’를 클릭하기만 하면 즉시 모델을 배포할 수 있다.
총 14가지의 허깅페이스모델이 클라우드플레어의 전역 서버리스 추론 플랫폼을 위해 최적화돼 있으며 텍스트 생성, 임베딩, 문장 유사도 등 3가지의 각기 다른 작업 카테고리를 지원한다.
줄리앙 쇼몽 허깅페이스 공동창업자 및 CTO는 “클라우드플레어와 협력해 개발자가 AI에 더 쉽게 액세스할 수 있게 되어 기쁘다"며 "가장 인기 있는 개방형 모델을 서버리스 API로 제공하고 전 세계에 배포된 GPU로 구동하는 것은 허깅페이스 커뮤니티에도 획기적인 제안이며, 이를 통해 앞으로 무엇을 만들어 나갈지 기대된다”고 밝혔다.
헬로티 이창현 기자 |
