LLM 올인원 솔루션 기업 올거나이즈가 일본 기업의 AI 에이전트 도입 실태와 전망을 조명하는 포괄적 조사 결과를 발표했다. 지난달 실시된 이번 조사에서 생성형 AI를 넘어 AI 에이전트로의 기술 혁신이 가속화되는 가운데, 응답 기업의 절반 이상이 이미 AI 에이전트를 도입했거나 적극적인 도입 계획을 갖고 있는 것으로 나타났다. 특히 도입 예정 기업의 약 60%는 1년 이내 자사 시스템에 AI 에이전트를 구현할 것으로 전망해, 기업 디지털 전환의 새로운 국면이 전개되고 있음을 시사했다.

AI 에이전트 도입을 계획 중인 응답자 388명을 대상으로 ‘현재 근무 중인 회사에서 AI 에이전트를 언제쯤 도입할 것으로 예상하고 있나요?’라고 질문한 결과, 응답자의 58.3%가 1년 이내에 자사에 AI 에이전트가 도입될 것으로 예상했다.

세부적으로는 ‘3개월 이내’ 4.9%, ‘6개월 이내’ 16.8%, ‘1년 이내’ 36.6%로 나타났다. 이외에 ‘2년 이내’ 19.3%, ‘3년 이후’ 5.9%, ‘미정’ 8%, ‘모르겠다’ 8.5%로 집계됐다. 이 결과는 일본 기업들이 AI 에이전트 도입에 상당히 적극적인 태도를 보이고 있음을 시사한다.

전체 조사자를 대상으로 ‘AI 에이전트에 대해 어느 정도 알고 계신가요?’라고 질문한 결과, 전체 응답자의 78.1%가 AI 에이전트에 대해 인지하고 있는 것으로 나타났다.

‘기술적 구조까지는 잘 모르지만 생성형 AI와의 차이 및 일부 제품과 서비스 등 어느 정도 알고 있다’는 응답이 26.6%로 가장 높았다. 이어서 ‘단어는 들어봤으나 자세한 내용은 모른다’ 17.9%, ‘기본 개념은 알지만 구체적 기능, 제품 및 서비스는 잘 모른다’ 17%, ‘자세히 알고 있다’ 16.6% 순으로 조사됐다. ‘모른다’라고 응답한 비율은 21.9%에 그쳤다.

AI 에이전트 도입 현황을 묻는 질문에는 응답자의 51.6%가 소속 기업에서 이미 AI 에이전트를 도입했거나 도입을 계획 중이라고 답했다.

세부적으로는 ‘이미 도입’ 12.8%, ‘도입 검토 중’ 11.7%, ‘도입을 결정하고 준비 중’ 10.4%, ‘파일럿 테스트 단계’ 9.9%, ‘정보 수집 단계’ 6.8%로 집계됐다. 반면 ‘(기업이) AI 에이전트를 인지하지 못함’은 39.8%, ‘모름’ 4.9%, ‘고려하지 않음’ 3.7%로 나타났다.

AI 에이전트에 대해 알고 있다고 응답한 602명을 대상으로 ‘AI 에이전트로 해결하고 있거나 해결하고 싶은 주요 업무 과제는 무엇인가요?’라고 질문한 결과, ‘업무 시간 단축 및 잔업 시간 감소’가 35.7%로 가장 높게 나타났다.

이어서 ‘인력 부족 해소'(33.2%), ‘데이터 활용 촉진'(32.2%), ‘업무 편중 해소'(27.7%) 순으로 조사됐다. 이 결과는 기업들이 AI 에이전트를 주로 업무 효율성 향상과 인력 문제 해결을 위한 도구로 인식하고 있음을 보여준다.

AI 에이전트를 이미 도입했거나 도입 준비 중이라고 응답한 516명에게 ‘AI 에이전트 도입 및 운영에 있어 중요하다고 생각하는 요소는 무엇인가요?’라고 질문한 결과, ‘사내 시스템과 쉽게 연동할 수 있는지 여부’가 39.5%로 가장 높게 조사됐다.

이는 기업들이 AI 에이전트의 기술적 성능뿐만 아니라 기존 시스템과의 통합 용이성을 중요시하고 있음을 나타낸다. 기업 내 시스템과의 연동이 용이해야 실제 업무 환경에서 효과적으로 활용할 수 있기 때문으로 분석된다.

AI 에이전트를 이미 도입했다고 응답한 128명을 대상으로 ‘현재 근무 중인 회사에서 도입한 AI 에이전트는 어떤 용도로 활용되고 있나요?’라고 질문한 결과, ‘데이터 수집·분석·탐색’을 선택한 응답자가 전체의 절반을 차지했다.

이는 현재 기업들이 AI 에이전트를 주로 데이터 관련 업무에 활용하고 있음을 보여준다. 데이터 활용이 기업 경쟁력의 핵심 요소로 부상하면서, AI 에이전트가 이 분야에서 먼저 활용되고 있는 것으로 분석된다.

이창수 올거나이즈 대표는 “이번 조사는 AI 에이전트가 일본 시장에서 이미 실행 가능한 전략 도구로 검증되고 있는 단계에 들어섰다는 것을 시사한다”라며 “실제 AI 에이전트 도입을 실시한 기업에서 실질적인 성과가 나타나고 있으며, AI 에이전트를 활용하는 기업은 단기간에 빠르게 확산할 것”이라고 전망했다.

이어 “이번 설문조사는 국내 기업에도 시사하는 바가 크다”며 “생성형 AI를 활용하고 있는 국내 기업 역시 단순히 AI 에이전트로의 전환을 계획하는 것을 넘어 AI 에이전트를 통해 어떤 업무를 자동화할 수 있을지 구체적으로 정의하고 우선순위를 설정할 필요가 있다”고 강조했다. 또한 “AI를 기반으로 임직원의 개별 업무를 효율화하는 데서 나아가 조직 전반의 경쟁력을 강화할 수 있도록 준비해야 할 시점”이라고 덧붙였다.