AI 보안기업 에임인텔리전스가 LG전자, 미국 로봇 OS 기업 오픈마인드와 손잡고 ‘피지컬 AI 안전 레이어(Physical AI Safety Layer)’를 공동 개발한다.

이번 협력은 물리적 환경에서 작동하는 AI, 즉 ‘피지컬 AI’의 오작동과 외부 공격을 동시에 방지하기 위한 것이다. 현재 피지컬 AI의 안전 규칙은 아시모프의 ‘로봇 3원칙’ 수준에 머물러 있어, 현실 환경에서의 오작동과 외부 공격에 취약하다는 지적을 받아왔다.

세 기업이 개발하는 새로운 안전 레이어는 로봇의 판단 오류(환각)를 차단하고, 외부 침입·공격까지 방어하는 차세대 안전 표준을 제시한다.

최근 연구에 따르면 인간이 인지하지 못하는 초음파 신호나 의류·헬멧의 미세한 이미지 패치만으로도 AI를 교란해 명령을 조작할 수 있는 공격이 현실화되고 있다. 이번 기술은 시각·청각·센서 데이터를 통합 분석해 이러한 은밀한 공격으로부터 로봇이 안전하게 작동하도록 보호한다.

이번 협력에서 오픈마인드는 범용 로봇 OS ‘OM1’을 제공하고, LG전자는 하드웨어 개발과 실증 단계를 담당한다. 에임인텔리전스는 AI 보안 기술을 로봇 운영체제에 통합해 모든 로봇의 행동이 인간 통제 하에 이뤄지는 체계를 설계한다.

박하언 에임인텔리전스 CTO는 “단순한 오작동 방지를 넘어 외부 공격까지 차단하는 체계를 구축하겠다”며 “산업 전반에 적용 가능하며 자율 환경에서도 신뢰 가능한 로봇 운영의 새 기준을 제시할 것”이라고 밝혔다.

한편 에임인텔리전스는 AI 리스크 탐지·차단 기술을 개발하는 AI 보안 전문기업으로, ACL·ICML 등 국제 학회에서 기술력을 인정받았다. 현재 KT·LG·BMW·Meta·KB국민카드·한국신용정보원 등과 함께 AI 안전 기술의 산업화를 추진 중이다.