에임인텔리전스가 미국 로봇 OS 기업 오픈마인드, LG전자와 함께 ‘피지컬 AI 안전 레이어(Physical AI Safety Layer)’를 공동 개발한다. 이번 협력은 물리적 환경에서 작동하는 AI, 즉 ‘피지컬 AI(Physical AI)’의 오작동과 외부 공격을 방지하기 위한 것이다.

 

현재 피지컬 AI의 안전 규칙은 아시모프의 ‘로봇 3원칙’ 수준에 머물러 있어, 현실 환경에서의 오작동과 해킹 공격에 취약하다는 지적이 있다. 세 기업이 공동으로 개발하는 새로운 안전 레이어는 로봇의 판단 오류(환각)를 차단하고 외부 침입·공격까지 방어하는 차세대 안전 표준을 제시한다.

 

최근 연구에서는 인간이 인지하지 못하는 초음파 신호나 의류·헬멧의 미세한 이미지 패치만으로도 AI를 교란해 명령을 조작할 수 있는 공격이 현실화되고 있다. 이번 기술은 시각·청각·센서 데이터를 통합 분석해 이러한 은밀한 공격으로부터 로봇이 안전하게 작동하도록 보호한다.

 

 

이번 협력에서 오픈마인드는 범용 로봇 운영체제(OS) ‘OM1’을 제공하고, LG전자는 하드웨어 개발과 실증 단계를 맡는다. 에임인텔리전스는 AI 보안 기술을 로봇 운영체제에 통합해 모든 로봇의 행동이 인간의 통제 하에 이뤄지는 구조를 설계한다.

 

박하언 에임인텔리전스 CTO는 “단순한 오작동 방지를 넘어 외부 공격까지 차단하는 체계를 구축하겠다”며 “산업 전반에 적용 가능하며 자율 환경에서도 신뢰 가능한 로봇 운영의 새로운 기준을 제시할 것”이라고 말했다.

 

한편, 에임인텔리전스는 AI 리스크 탐지와 차단 기술을 개발하는 AI 보안 전문기업으로, ACL·ICML 등 국제 학회에서 기술력을 인정받았다. 또한 KT, LG, BMW, Meta, KB국민카드, 한국신용정보원 등과 함께 AI 안전 기술의 산업화를 추진 중이다.

 

헬로티 이창현 기자 |