지난해 연말, 한 기술 컨퍼런스에서 만난 스타트업 대표가 이런 말을 했다. “AI가 이제 너무 강력해져서 오히려 무섭습니다.” 그는 AI 모델이 예상치 못한 결과를 내놓을 때마다 가슴이 철렁 내려앉는다고 했다. 이런 불안감은 그만의 것이 아닌 듯했다. 컨퍼런스 내내 많은 연사들이 AI의 신뢰성과 윤리적 문제를 거론했다.

AI 테크 기업 크라우드웍스가 발간한 ‘2025 AI 트렌드 리포트’는 이런 업계의 고민이 새해에는 더욱 본격화될 것이라고 전망한다. 리포트에 따르면 2025년에는 ‘신뢰할 수 있는 AI’가 핵심 키워드가 될 전망이다. 윤리적이고 안전하며 투명한 개발 프로세스가 기업의 성패를 가르는 잣대가 된다는 것이다.

“이제 AI는 선택이 아닌 필수입니다. 하지만 막연히 도입하는 것이 아니라, 신뢰할 수 있고 책임감 있는 방식으로 도입해야 합니다.” 크라우드웍스의 한 임원은 이렇게 말했다. 실제로 리포트는 AI의 설명 가능성, 보안, 개인정보 보호 같은 문제들이 기업들의 주요 고민거리가 될 것이라고 예측한다.

특히 흥미로운 것은 ‘환각’이라는 단어다. AI가 없는 사실을 있는 것처럼 말하거나, 잘못된 정보를 진실인 양 내놓는 현상을 일컫는 말이다. 리포트는 이런 문제들을 해결하지 못하는 기업은 평판 손상은 물론, 고객 신뢰 상실이라는 치명적인 위험에 직면할 수 있다고 경고한다.

하지만 이런 우려 속에서도 AI 기술의 발전은 계속될 전망이다. 리포트는 ‘멀티모달 AI’를 주목할 만한 트렌드로 꼽았다. 텍스트, 이미지, 영상 등 여러 형태의 데이터를 동시에 처리할 수 있는 이 기술은 특히 금융과 헬스케어 분야에서 큰 변화를 가져올 것으로 예상된다.

“예를 들어 의료 분야에서는 환자의 MRI 영상, 의무기록, 음성 데이터를 종합적으로 분석해 더 정확한 진단을 내릴 수 있게 됩니다.” 한 의료 AI 전문가의 설명이다. 실제로 리포트는 멀티모달 AI가 제약 산업에서 신약 개발 기간을 50% 이상 단축할 수 있다고 전망한다.

‘자율 AI 에이전트’도 주목할 만하다. 최소한의 인간 개입만으로 복잡한 작업을 처리할 수 있는 이 기술은, 딜로이트의 분석에 따르면 2025년까지 생성형 AI를 도입한 기업의 25%가 활용할 것으로 예상된다. 2027년에는 그 비율이 50%까지 올라갈 전망이다.

하지만 이런 자동화의 물결이 인간의 역할을 완전히 대체하지는 않을 것이라고 리포트는 강조한다. 오히려 AI 에이전트를 감독하고, 결과를 검증하며, 더 복잡한 문제 해결을 위해 AI를 활용하는 새로운 형태의 직무가 생겨날 것으로 예측된다.

환경 문제도 빼놓을 수 없는 이슈다. AI의 에너지 소비량이 급증하면서, 2030년까지 전 세계 에너지 소비량의 약 4%를 차지할 것으로 예상된다. 이에 대응해 기업들은 에너지 효율적인 칩과 냉각 기술 개발에 투자를 늘리고 있다.

한편, AI는 역설적이게도 환경 문제 해결의 열쇠가 될 수도 있다. 리포트는 AI가 제조업, 농업, 운송업 등에서 에너지 효율을 높이고 탄소 배출을 줄이는 데 기여할 것이라고 전망한다. 예를 들어 AI는 스마트 빌딩의 에너지를 최적화하고, 도시 교통 흐름을 효율적으로 관리하는 데 활용될 수 있다.

사이버 보안도 중요한 화두다. 특히 생성형 AI의 발전은 새로운 보안 위협을 낳고 있다. 2024년 1분기에만 생성형 AI를 사용한 피싱 공격이 전년 대비 856% 증가했다는 통계는 이런 우려를 뒷받침한다. 많은 사례가 경영진을 사칭한 딥페이크 공격이었다고 한다.

이런 변화는 기업 조직 구조에도 영향을 미칠 전망이다. 리포트는 중간 관리자의 역할이 전략과 실행을 아우르는 포괄적인 것으로 변화할 것이라고 예측한다. 또한 AI 에이전트의 도입으로 주니어급 인력의 역할은 축소될 수 있지만, 대신 AI 팀을 관리하고 결과를 검증하는 새로운 형태의 직무가 생겨날 것으로 보인다.

마지막으로 리포트는 LLM(대규모 언어 모델)의 상품화와 전문화를 주목할 만한 트렌드로 꼽았다. 그동안 연구기관과 대기업의 전유물이었던 LLM이 이제는 다양한 산업에서 실질적인 비즈니스 도구로 자리 잡게 될 것이라는 전망이다.

“2025년은 AI 기술이 새로운 도약을 이루는 중요한 시점이 될 것입니다.” 김우승 크라우드웍스 대표이사의 말이다. “책임감 있는 AI 활용을 통해 변화하는 환경에 적응하고 지속적인 혁신을 이어가는 기업만이 살아남을 수 있을 것입니다.”

이제 AI는 더 이상 ‘얼마나 강력한가’가 아니라 ‘얼마나 신뢰할 수 있는가’로 평가받는 시대로 접어들고 있다. 2025년, AI 시장은 ‘착한 AI’를 향한 새로운 경주를 시작할 것으로 보인다.