산업용 컴퓨팅 분야 글로벌 선도 기업 어드밴텍이 NVIDIA 기반 엣지 AI 플랫폼을 통해 오픈 소스 대규모 언어 모델(LLM) 생태계 확장에 박차를 가하고 있다. 특히 Meta의 Llama와 중국의 딥시크(DeepSeek) 등 최신 오픈 LLM을 엣지 환경에서도 원활히 지원할 수 있어 산업 전반의 AI 적용 가능성을 넓히고 있다는 평가다.
어드밴텍은 NVIDIA의 TensorRT-LLM, Jetson 플랫폼 등 풀 스택 가속 기술을 활용해 경량 추론부터 풀 스케일 AI 모델 훈련까지 모두 아우를 수 있는 엣지 AI 시스템을 제공한다. 이는 챗봇, AI 도우미, 산업용 모니터링, 엔터프라이즈 지식 관리 등 다양한 애플리케이션에 활용되며 특히 고속 처리와 확장성, 전력 효율성을 동시에 갖춘 점이 강점이다.
대표적인 제품으로는 ▲경량 추론에 적합한 ‘MIC-711-OX’ ▲최적화된 LLM 추론이 가능한 ‘MIC-770V3 + MIC-75M20’ ▲도메인 특화 AI 훈련용 ‘SKY-602E3’ 등이 있다. 각각은 실시간 챗봇, 고객 응대, 법률 및 의료 AI 분석, 코드 생성 AI 등 다양한 산업 시나리오에 맞춰 설계되었으며 최대 1000 TOPS 이상의 연산 성능을 제공한다.
어드밴텍은 이번 엣지 AI 플랫폼 확장을 통해 AI 기술의 실시간 현장 적용 가능성을 증명하고 있다. 특히 로봇, 스마트 키오스크, IoT 디바이스 등 엣지 단에서의 추론 처리 속도를 대폭 향상시켜 대기업부터 중소 제조업체까지 다양한 산업군에서 활용도가 높을 것으로 기대된다.
어드밴텍 관계자는 “NVIDIA와의 기술 협업을 통해 엣지 네이티브 AI 구현이 가능해졌으며 이는 오픈 소스 LLM의 산업 전환 속도를 앞당기는 데 핵심 역할을 한다”고 밝혔다. 또한 “어드밴텍은 앞으로도 산업 전반의 AI 기반 혁신을 선도해 나갈 것”이라고 덧붙였다.
헬로티 김재황 기자 |
