챗GPT의 등장은 AI의 놀라운 성능을 증명함과 동시에 AI의 대중화를 연 사건이었다. 이후 기업들은 AI 모델 구축으로 생산성을 극대화하고 미래 경쟁력을 보장받고자 한다. 물론 기업에 최적화한 AI 모델을 만드는 것은 간단한 여정이 아니다. 이 같은 이유로, 주목받는 개념이 MLOps다. 베슬에이아이는 자체 개발한 MLOps 플랫폼을 통해 각 기업에 적합한 AI 모델을 최적의 경로로 안내하고 있다. 이에 베슬에이아이의 선장인 안재만 대표를 만나 MLOps에 대한 여정과 미래 전략에 대해 이야기 나눠봤다.
AI 모델 완성으로 가는 최단거리
머신러닝(ML)과 DevOps의 합성어기도 한 MLOps는 AI 모델을 개발 및 배포, 관리하는 프로세스라고 정의할 수 있다. 다시 말해 MLOps는 AI 모델을 효과적으로 실행하고 유지하는데 필요한 핵심 개념이다. MLOps를 만드는 베슬에이아이는 AI 모델 구축에 대한 경험이 없는 기업에 필요한 툴과 인프라를 제공하는 기업으로 주목받고 있다.
주요 IT 대기업을 제외하면, 일반 기업에서는 데이터 품질 개선, 전문 인력의 부족, AI 인프라 및 파이프라인 구축과 같은 과제가 부담스러운 게 사실이다. 이를 해결하지 못하고 무분별한 AI 도입으로 인해 실패를 겪은 기업 사례는 심심치 않게 들려온다. 이에 베슬에이아이는 자동화 작업이 가능한 MLOps 플랫폼을 제공함으로써 신속한 AI 개발 과정을 지원하고 있다.
베슬 플랫폼은 세 가지 컴포넌트로 구성돼 있다. 그 중 하나인 ‘베슬 런’은 개발자가 클라우드나 인프라에 대한 고민 없이 머신러닝 학습과 배포를 하나의 인터페이스에서 수 초만에 실행하는 서비스다. 베슬 런은 온프레미스 서버와 클라우드 등 인프라를 자유롭게 연동해 머신러닝 모델을 만들도록 지원한다.
다음으로, ‘베슬 파이프라인’은 머신러닝 데이터 전처리, 모델 개발, 배포 등의 작업을 자동화하는 서비스며, ‘베슬 아티팩트’는 기업이 보유한 데이터, 모델, 자산 등을 하나의 대시보드에서 관리하도록 돕는 서비스다. 안재만 대표는 “베슬의 강점 중 하나는 머신러닝 모델 스케일 확장의 유연함이다. 서버와 클라우드를 추가로 구매할 필요없이 머신러닝 개발부터 배포까지의 여정을 수행하는 인프라를 지원한다”고 말했다.
잠재력 있는 MLOps 영역 주목하다
안재만 대표는 게임회사 데브시스터즈에서 커리어를 시작했다. SW 엔지니어였던 안 대표는 ‘쿠키런’이라는 게임 프로젝트에 참여해 서버 개발자로 일했다. 그는 게임에서 발생하는 대량의 트래픽을 처리하며 클라우드 기반 DevOps의 중요성을 깨달았다. 이후 에이아이트릭스에서 환자의 생체신호를 파악해 발병 확률을 예측하는 AI 모델을 개발했다.
이러한 배경으로, 안재만 대표는 전 산업을 혁신할 수 있는 기술이 AI며, AI를 효율적으로 구축하고 관리하기 위한 MLOps 개발에 나서기 시작했다. 지난 2020년 설립된 베슬에이아이는 세상을 변화하는 기술을 만들자는 비전을 갖고 AI 인프라를 비용 효율적으로 구축하는 방법에 대한 연구를 지속했다.
안재만 대표는 “AI는 대학교, 연구실에서나 보던 연구 툴이었다. 그렇다 보니 비즈니스 현장에서 운영될 때 발생하는 애로사항이 많았다. 처음에는 다양한 산업과 주어진 환경에 따라 AI 모델을 개발하고 배포할 것인가를 고민했다면, 이후에는 개발 과정을 자동화하고 스케일업하는 방안에 대해 머리를 맞댔다”고 말했다.
베슬 플랫폼을 앞세운 베슬에이아이는 오늘날 AI 업계에서 주목받는 기업 중 하나로 떠올랐다. 안재만 대표는 지난 2021년 미국 실리콘밸리로 본사를 옮기며 본격적인 비즈니스 행보를 걸었다. 안 대표는 MLOps 영역에서 성장하기 위한 조건을 갖추기 위해 본사 이전을 추진했다. 이는 베슬 플랫폼이 국내에 한정되는 서비스가 아니라 글로벌 시장에 진출하기 위한 초석을 마련하기 위함이었다.
안재만 대표는 “AI 분야에서도 분석·구축하는 인프라가 요구될 것이라고 판단했다. 또한, 시장 크기, 성장 방식 등을 고려했을 때 미국에서의 시작이 유리하다고 내다봤다”고 말했다. 이 같은 결정에 힘입어 베슬에이아이는 지난 7월 구글이 처음으로 진행하는 ‘Google for Startups Accelerator’에 선정됐다. 북미에서 선정된 12개 기업 중 유일한 한국 스타트업이었다.
이에 안재만 대표는 “구글 담당자들과의 네트워킹은 새로운 경험이었다. 특히 피터 노빅과 같은 전문가들과 소통하며 우리가 지금까지 해왔던 고민과 추진해온 프로젝트가 헛된 것이 아님을 확인할 수 있어 감회가 새로웠다”고 말했다.
넥스트 MLOps 바라보는 베슬
안재만 대표는 자사의 플랫폼에 대한 자부심을 밝혔다. 안 대표는 “베슬은 AI 모델 개발부터 모니터링까지 엔드투엔드를 포괄하는 플랫폼이다. 이 플랫폼 자체가 자사의 경쟁력이다. 일반적으로 기업은 MLOps 스택을 만들기 위해 여러 툴을 도입해 설치·관리하고 운영한다. 우리는 하나의 플랫폼에서 해결하기에 비용과 효율성을 두루 갖춘 셈이다”고 말했다.
이어 그는 “베슬은 여러 클라우드를 연동해 사용할 수 있기에 최적화한 GPU 인프라를 제공한다. 또한, 베슬 사용 시 코드나 인프라 변경이 없기에 락인(Lock-in)이나 커스터마이징에 대한 부담도 줄어든다”고 덧붙였다. 또한, “이는 베슬에이아이가 지향하는 가치와 연결된다. 그 가치란, 고객에게 변경에 대한 요구를 하지 않고 환경에 관계없이 잘 동작하도록 만드는 것이다”고 말했다.
한편, 최근 AI 산업 트렌드 중 하나는 초거대 AI와 그에 따른 인프라 구축이다. 기업은 스케일러블한 AI 인프라를 만들고 거대언어모델(LLM)과 같은 생성형 AI 모델을 운영하는데 초점을 맞추고 있다. 여기에서도 MLOps는 중요한 역할을 차지한다.
안재만 대표는 “신뢰성 있는 AI 인프라를 만들고 생성형 AI를 운영하는 것 역시 MLOps 범주에 포함된다. 우리도 스케일러블한 AI 인프라 확장 및 운영 방안에 대해 논의하고 있다”고 말했다. R&D와 관련해 “우리는 먼저 비용 관점에 대해 고려하고 있다. 점차 AI 모델이 거대해지기에 적은 비용으로 최대한의 운영 효율을 끌어내고자 한다. 여기서 파생되는 과제는 하이브리드 클라우드 구성이나 GPU에 대한 최적화 작업이 될 것이다”고 덧붙였다.
끝으로, 안재만 대표는 “베슬에이아이의 궁극적인 목표는 한 기업이 AI를 개발할 때 우리 플랫폼을 먼저 떠올리는 것이다. 아직은 초기 단계라고 생각한다. 나아가 글로벌 시장에서 타사 제품 대비 높은 수준의 제품이라는 인식을 남기는 것이 하반기 주요 과제다”고 말을 맺었다.
헬로티 서재창 기자 |
