아마존은 올해 3월 ‘Buy for Me’라는 새로운 기능을 출시했습니다. 사용자가 앱에서 한 번만 클릭하면 AI가 대신 관련 브랜드 웹사이트에서 주문하고, 정보를 입력하며, 결제까지 완료해 줍니다. 이 모든 과정은 사용자가 직접 조작할 필요가 없습니다.

이처럼 AI 에이전트(AI Agent)가 ‘대행’하는 서비스가 빠르게 확산하고 있습니다. 아마존뿐만 아니라, 점점 더 많은 서비스가 AI를 통해 일상적인 업무를 처리하고 있습니다. 예컨대 항공권 조회, 가격 비교, 식당 예약, 요금 납부, 일정 조율 등이 포함되며, 심지어 사용자가 고수를 싫어한다는 것을 알고 적절한 식당을 자동으로 필터링해 줍니다.

AI는 더 이상 단순히 조언을 제공하는 것이 아니라, 실제로 사용자를 위해 ‘결정하고 실행’하기 시작했습니다.

하지만 플랫폼은 이것이 해킹이 아니라는 것을 어떻게 알 수 있을까요?

이러한 변화는 ‘플랫폼과 사용자 간의 신뢰 관계’를 새롭게 정의하게 했습니다.

플랫폼 입장에서는 다음과 같은 새로운 기준이 필요합니다. 이 주문은 누가 했는가? 이 결제는 누가 승인했는가? 이 작업을 실행한 계정은 인간이 직접 클릭했는가? 아니면 AI가 자동으로 실행했는가? 혹은 해커의 소행인가?

결국, AI 에이전트의 행동은 웹사이트 입장에서는 종종 웹 크롤러처럼 보이며, 심지어 악의적인 공격과 구별하기 어려울 수도 있습니다. 보안 기업 Oasis Security의 조사에 따르면, AI 에이전트가 생성한 비인간 신원이 매우 빠른 속도로 증가하고 있으며, 인간 계정을 훨씬 초과하고 있어 보안 위험도 함께 증가하고 있습니다.

신원 인증에 대한 두 가지 새로운 도전

AI가 점점 더 많은 업무를 수행함에 따라, 온라인 세계에서의 ‘정체성’ 문제도 새롭게 정의되고 있습니다. 앞으로는 신원 인증이 단순히 ‘로그인 여부’를 넘어서, 두 단계의 판단 과정을 거쳐야 합니다.

첫 번째는 ‘당신은 실제 인간인가?(Proof of Humanity)’입니다.

AI가 생성한 계정과 가짜 신원이 범람하는 시대에는, 계정 뒤에 실제 사람이 존재하는지를 확인하는 것이 더욱 중요해지고 있습니다. OpenAI 공동 창업자 샘 알트먼(Sam Altman)이 투자한 생체인식 스타트업 Tools for Humanity는 홍채 스캔 장치인 Orb를 통해 실제 인간인지 여부를 식별하고 있습니다.

두 번째는 ‘이 AI는 실제 인간에게서 권한을 부여받았는가?(Agent Verification)’입니다.

AI가 사람을 대신해 결정을 내리고 업무를 처리하기 시작할 때, 우리는 이 AI가 누가 보낸 것인지, 그리고 그 권한이 무엇인지도 확인해야 합니다.

이 문제를 해결하기 위해, AI 에이전트에게 ‘여권+비자’와 유사한 디지털 증명을 부여하여, 플랫폼이 신원과 권한을 실시간으로 검증할 수 있는 새로운 인증 방식이 등장하고 있습니다.

이는 출입국 절차에 비유할 수 있습니다. 한 나라에 도착했을 때, 세관은 당신을 개인적으로 알 필요 없이 여권과 비자가 진짜이고 유효한지만 확인하면 입국을 허가해 주는 것과 같습니다.

이 중 대표적인 스타트업 중 하나인 Terminal 3는 온라인 세계에서의 신원 인증과 데이터 권한 관리를 더욱 안전하게 만들기 위해 설립되었습니다. 그들이 설계한 ‘Agent Auth’ 메커니즘은 AI 에이전트에게 검증 가능하고 추적 가능한 디지털 신원을 부여하고, 해당 작업의 권한까지 첨부하여, 플랫폼이 현재 AI가 수행 중인 작업이 사용자로부터 합법적으로 승인된 것인지 즉시 확인할 수 있도록 합니다. 현재 교육, 금융, 정부 등 개인정보 보호와 권한 인증을 중시하는 플랫폼과 분야에서 Terminal 3의 기술을 도입해 신원 신뢰 문제를 해결하고 있습니다.

앞서 언급했듯이, 미래의 인터넷 세상에서는 모든 거래가 반드시 인간 본인이 직접 수행하는 것이 아니라, 대부분의 경우 그의 AI 에이전트가 대신 업무를 수행하게 될 것입니다.

이러한 미래를 실현하기 위해서는, AI에게 디지털 신분증과 작업 비자를 발급하고, 표준화된 인증 메커니즘을 제공하는 새로운 인프라가 필요합니다. 이는 앞으로 10년간 가장 핵심적이지만, 현재는 아직 과소평가되고 있는 혁신 분야가 될지도 모릅니다.

글 : 매트 첸(Matt Cheng) 체루빅 벤처스 매니징 파트너, 아워송 코파운더 Matt Cheng, Founder and General Partner of Cherubic Ventures