미국 산호세에서 개최된 ‘엔비디아 GTC 2025’에서 생성형 AI 가속 플랫폼 기업 프렌들리AI가 추론 기술력을 선보여 주목받았다. 2년 연속 참가한 프렌들리AI는 300여 기업의 방문과 다수의 도입 문의를 받았다고 밝혔다.

젠슨 황 엔비디아 CEO가 기조연설에서 “AI 추론과 AI 에이전트 시대가 시작됐다”고 선언한 것이 프렌들리AI에 대한 관심을 더욱 증폭시켰다. 황 CEO는 30분에 걸쳐 초대규모 AI 추론 기술의 중요성과 AI 에이전트 도입 확산에 대해 강조했다.

“기업들이 AI 서비스 최적화에 어려움을 겪고 있다는 사실을 현장에서 다시 확인했으며, 이 시장이 폭발적으로 성장하고 있음을 체감했다”고 프렌들리AI 관계자는 전했다.

프렌들리AI는 추론 속도 부문에서 세계 1위(Artificial Analysis 벤치마크)를 기록한 GPU API 제공사이며, 스타트업으로는 유일하게 세계 최대 AI 모델 공유 플랫폼인 허깅페이스의 공식 모델 배포 파트너로 선정됐다. 이러한 기술력과 파트너십은 기업들에게 신뢰를 주는 핵심 요소로 작용했다.

특히 AI 챗봇, 음성 AI 에이전트, AI 콜센터 서비스를 제공하는 기업들이 프렌들리AI 기술에 큰 관심을 보였다. 이들 기업은 고객 응대 속도, 실시간 대화 품질, 인프라 비용 절감 등의 과제를 해결할 수 있는 솔루션을 찾고 있었다.

프렌들리AI의 기술을 도입하면 AI 서비스 및 추론 속도가 향상되고, 안정적인 운영과 비용 절감, 운영 효율성 증가 효과를 얻을 수 있다. 한 기업의 CTO는 “바로 내가 찾던 솔루션이었다”며 즉각적인 도입 의사를 표명했다고 프렌들리AI 측은 전했다.

글로벌 엔터프라이즈 기업들도 프렌들리AI의 파트너십 네트워크와 도입 용이성에 관심을 보였다. 프렌들리AI는 최근 아마존웹서비스(AWS) 환경에 애드온으로 탑재되었으며, 허깅페이스에서 13만개 이상의 모델을 즉시 배포해 사용할 수 있는 환경을 제공하고 있다.

전병곤 프렌들리AI 대표는 “AI 시장의 무게중심이 AI 추론으로 이동하고 있으며, AI 생태계가 확장됨에 따라 이를 지원하는 플랫폼 기술 시장도 급속히 성장하고 있다”고 강조했다. 그는 “글로벌 현장에서 확인한 내용을 바탕으로 기업들의 AI 도약을 적극 지원하겠다”는 포부를 밝혔다.