AI 추론 서비스 기업 프렌들리AI가 AI 클라우드 인프라 기업 네비우스(Nebius)와 협력해 AI 서비스를 제공한다.

이번 협업에 따라 프렌들리AI의 추론 기술이 네비우스의 AI 클라우드 인프라에 결합된다. 네비우스 인프라에서 고객 지원 챗봇, 코딩 어시스턴트, AI 에이전트 서비스 등을 운영하는 기업들은 프렌들리AI의 API를 통해 추론 환경을 이용할 수 있다.

네비우스는 AI 산업 인프라를 제공하는 클라우드 기업으로, 네덜란드 암스테르담에 본사를 두고 있으며 미국 나스닥(NASDAQ)에 상장돼 있다. 현재 유럽, 북미, 이스라엘 전역에 AI 워크로드용 인프라를 제공 중이다. 최근 마이크로소프트와 194억 달러 규모의 AI 컴퓨팅 파트너십을 체결했다.

프렌들리AI는 AI 추론 가속 및 효율화 기술을 제공하는 기업이다. AI 개발과 서비스 운영 시 GPU 비용을 최대 90%까지 절감할 수 있다고 회사 측은 설명했다. 모델 인프라 최적화, 연속적 배치 처리(Continuous Batching) 등의 기술을 통해 추론 속도를 향상시키고, 99.99% 가동 시간(SLA) 보장을 지원한다.

또한 46만 개 이상의 허깅페이스(Hugging Face) 모델을 지원하는 프렌들리AI의 추론 플랫폼은 프로토타입부터 운영 단계까지 제품 출시와 배포를 지원한다.

전병곤 프렌들리AI 대표는 “우리의 목표는 AI 추론 기술을 모든 기업이 쉽게 이용할 수 있게 하는 것”이라며 “프렌들리AI의 추론 최적화 기술과 네비우스 AI 클라우드의 결합은 고객이 지연 시간, 안정성, 비용 효율성을 갖춘 AI 모델을 배포할 수 있다는 의미”라고 말했다.

한편, 프렌들리AI는 이번 협력으로 글로벌 확장 전략을 이어가게 됐다. 회사는 지난 1월 AI 모델 플랫폼 허깅페이스에 한국 기업 최초로 AI 모델 배포 옵션을 공급한 바 있다. 이어 5월 이상원 COO(최고운영책임자)를 영입하고 다수의 글로벌 AI 컨퍼런스에 참가했다.

프렌들리AI는 현재 LG AI연구원의 ‘엑사원 4.0’ 공식 배포 파트너이자 정부 K-AI 모델 사업 참여 기업이다. 지난 8월에는 실리콘밸리 VC 등이 참여한 2000만 달러 규모의 시드 익스텐션 투자를 유치했다.