마이크로소프트가 AI 추론 가속기 ‘마이아 200(Maia 200)’을 공개했다. 마이아 200은 마이크로소프트 애저(Azure) 환경에서 AI 모델 구동을 지원하는 자체 개발 칩이다.

마이아 200은 TSMC 3나노미터(nm) 공정 기반으로, 1,400억 개 이상의 트랜지스터를 탑재했다. 초당 7TB 대역폭의 216GB HBM3e 메모리 시스템과 네이티브 FP8/FP4 텐서 코어를 결합해 대규모 AI 모델 추론에 최적화했다. 750W 설계 전력(TDP) 범위 내에서 FP4 기준 10 PFLOPS 초과, FP8 기준 5 PFLOPS 초과 성능을 제공한다.

마이크로소프트에 따르면 마이아 200은 4비트 정밀도(FP4) 기준 아마존 트레이니움 3세대 대비 3배 높은 처리량을 기록했으며, 8비트 정밀도(FP8)에서는 구글 7세대 TPU를 상회한다. 자사 최신 하드웨어 대비 달러당 성능을 30% 개선했다고 회사 측은 설명했다.

마이아 200은 오픈AI의 GPT-5.2 모델을 비롯한 다양한 모델을 지원한다. 마이크로소프트 파운드리(Microsoft Foundry)와 마이크로소프트 365 코파일럿(Microsoft 365 Copilot) 등에 활용된다. 마이크로소프트 슈퍼인텔리전스팀은 차세대 모델 개선을 위한 합성 데이터 생성 및 강화 학습에 마이아 200을 투입할 계획이다.

네트워크 측면에서는 표준 이더넷 기반 2계층 스케일업 네트워크를 도입했다. 각 가속기는 초당 2.8TB의 양방향 스케일업 대역폭을 지원하며, 최대 6,144개 가속기를 연결하는 대규모 클러스터 구성이 가능하다.

마이크로소프트는 칩 설계 초기부터 시스템 전반을 검증하는 방식을 적용해 첫 부품 입고 수일 만에 실제 모델 구동에 성공했으며, 칩 입고부터 데이터 센터 배치까지 기간을 기존 대비 절반 이하로 단축했다고 밝혔다.

마이아 200은 아이오와주 디모인 인근 미국 중부(US Central) 데이터 센터를 시작으로 배포되며, 향후 애리조나주 피닉스 인근 등으로 확대될 예정이다.