에임인텔리전스가 AI 연구기업 앤트로픽(Anthropic)의 비공개 AI 모델을 성공적으로 진단하며 글로벌 AI 보안 시장에서 주목받고 있다.

앤트로픽은 최근 AI 보안 강화를 위해 새로운 버그 바운티(Bug Bounty) 프로그램을 발표했다. 에임인텔리전스는 이 프로그램에 참여해 최상위 수준의 보안 평가를 진행했다고 관계자가 전했다.

“에임인텔리전스는 AI 모델의 악용을 방지하기 위한 최신 방어 시스템을 점검하고, 사전에 보안 취약점을 찾아내는 데 집중했다” 라고 회사 측은 설명했다.

이 프로그램에서는 CBRN(화학, 생물학, 방사능, 핵) 관련 10개의 금지 질문에 대한 AI 모델의 대응을 평가했다. 전 세계에서 초청된 해커 중 약 20명만이 2개 이상의 문제를 우회하는 데 성공했으며, 에임인텔리전스의 박하언 연구원도 이에 포함되어 탁월한 보안 분석 능력을 입증했다.

에임인텔리전스의 연구 결과는 AI 보안성 강화를 위한 중요한 참고자료로 활용되었다. 앤트로픽은 이를 기반으로 AI 안전성을 높이기 위한 ‘Constitutional Classifier’ 논문을 발표했다고 한다.

에임인텔리전스가 새롭게 선보인 ‘AIM Supervisor’는 AI 보안 점검을 자동화하는 솔루션이다. 이 시스템은 100만 개 이상의 평가 질문을 자동 생성해, 기존 보안 전문가들의 수작업 부담을 대폭 줄였다고 회사 측은 밝혔다.

에임인텔리전스 관계자는 “국내 최초로 AI 서비스의 신뢰성 검증 프로세스를 자동화했다”며 “탐지된 취약점 유형을 자동 차단하는 기능을 통해 기업들이 보다 강력한 보안 체계를 구축할 수 있도록 돕겠다”고 말했다.

이 기업은 AI 보안 기술력을 앞세워 국내 주요 기업과 협업을 강화하고 있다. KT LLM 믿음, SKT AI Care LLM, LG 엑사원 등 국내 대표적인 AI 기업들이 에임인텔리전스의 보안 점검을 거쳤다. 또한, KB국민카드, 우리은행, 분당서울대병원 등 금융·의료 분야에서도 AI 보안 진단과 레드팀 테스트를 진행하며 업계 신뢰를 얻고 있다.

AI 기술이 급속도로 발전하는 만큼 보안 위협도 함께 증가하고 있다. 에임인텔리전스는 AIM Supervisor를 통해 기업들이 AI 서비스의 보안성을 사전에 확보할 수 있도록 지원하고 있다. 또한, AI 보안 연구 커뮤니티 및 글로벌 기업들과 협력해 지속적인 보안 강화를 추진하고 있다고 회사 측은 전했다.