Avec 288 Go de HBM4 et un TDP culminant à 950 W, la nouvelle puce maison de Microsoft vise directement les déploiements massifs d’inférence. Satya Nadella prévoit déjà de porter cette famille à une échelle de plusieurs gigawatts pour les services du groupe.
Maia 300 adopte le 2 nm et la HBM4
Destiné à Azure Cloud, le processeur repose sur une architecture en tuiles et plusieurs chiplets. Son die de calcul est fabriqué sur le procédé TSMC N2P (2 nm), tandis que deux dies d’entrées-sorties utilisent une gravure plus ancienne.
L’ensemble comprend également quatre tuiles de mémoire DDR RDIMM faisant office de mémoire principale au niveau du système. L’accélérateur dispose en parallèle de 288 Go de HBM4 à 9 GT/s, répartis sur huit piles, pour une bande passante cumulée de 18 To/s.
Le SoC affiche un TDP maximal de 950 W. Microsoft revendique une puissance de 13,8 peta-OPS (POPS) en FP4 et de 6,9 POPS en FP8, deux formats particulièrement adaptés aux charges d’inférence.
Jusqu’à 12 000 puces dans un domaine
Maia 300 prend en charge une interface réseau AI Transport Ethernet à deux niveaux ainsi qu’une liaison inter-puces offrant 3,2 To/s. Un rack peut accueillir jusqu’à 96 accélérateurs afin de former un Maia Pod.
À plus grande échelle, l’architecture autorise jusqu’à 12 000 puces Maia au sein d’un même domaine scale-up. Microsoft entend ainsi faire de cette gamme son principal système d’inférence pour ses propres produits et services.
Un rendement supérieur aux GPU selon Microsoft
Le groupe déploie actuellement le Maia 200 aux États-Unis, en Europe et en Australie. Sur Copilot et Teams, cette génération délivrerait 70 % de tokens supplémentaires par watt par rapport aux GPU dédiés à l’IA.
Le déploiement du modèle précédent éclaire l’évolution de la gamme, détaillée dans notre analyse du Microsoft Maia 200 et de son architecture d’inférence.
Maia 300 doit encore améliorer ce rendement, avec un gain annoncé de 40 % en tokens par watt face aux solutions basées sur des GPU. Aucun calendrier précis de disponibilité régionale n’a toutefois été communiqué.
Cette montée en puissance réduit la dépendance de Microsoft aux accélérateurs généralistes tout en adaptant étroitement le silicium à ses modèles et à son réseau Azure. L’enjeu dépasse les performances brutes : à l’échelle de plusieurs gigawatts, le rendement énergétique devient déterminant pour la capacité disponible comme pour le coût d’exploitation.
Source : TechPowerUp
