Microsoft cherche à peser moins lourd dans le carnet de commandes de Nvidia.

Avec Maia 300, sa troisième puce d’IA conçue en interne, le groupe veut réduire le coût de fonctionnement de Copilot et des services d’IA d’Azure, en traitant davantage de requêtes avec la même quantité d’électricité.

Microsoft présente Maia 300 comme un accélérateur conçu pour l’inférence des grands modèles d’IA. Le groupe prévoit d’étendre à partir de 2027 le déploiement de sa famille Azure Maia pour alimenter Copilot et les services d’IA d’Azure.

Microsoft estime que Maia 300 pourra traiter 40 % de tokens de plus par mégawatt que les principaux systèmes à GPU, soit plus de requêtes d’inférence pour la même puissance électrique. L’entreprise ne précise ni les GPU auxquels elle se compare ni les configurations testées, et ce chiffre est une estimation de l’entreprise, pas un résultat mesuré en exploitation à grande échelle.

Maia 300 a été conçu avec le logiciel, les racks de serveurs, le réseau et l’infrastructure du centre de données, pour améliorer le débit et l’efficacité énergétique de l’ensemble plutôt que la seule puissance de calcul de la puce. Un rack de 96 accélérateurs offrirait jusqu’à 7 fois le débit de tokens par rack d’un système fondé sur la génération précédente, Maia 200.

Chaque puce embarque huit piles de mémoire HBM4 pour une bande passante de 18 To/s et dissipe 950 W. Un rack consomme 167 kW, pour 27,6 To de mémoire HBM. Les puces de calcul sont gravées par TSMC en N2P. Microsoft juge que le déplacement des données, plus que la puissance de calcul brute, est désormais le principal goulot d’étranglement des grands systèmes d’inférence.

Microsoft utilise déjà Maia 200 pour de vrais services d’IA, dont Copilot. Cette génération, gravée en 3 nm, est déployée aux États-Unis, en Europe et en Australie.

GitHub Copilot et Microsoft Foundry doivent suivre avant la fin de l’année. Microsoft affirme qu’elle traite jusqu’à 1,7 fois plus de tokens par watt que les infrastructures à GPU pour les fonctions d’IA de Teams et de Copilot.

Maia 300 doit faire tourner des modèles d’OpenAI, les modèles MAI de Microsoft et des modèles ouverts. Anthropic prévoit aussi d’exécuter ses modèles Claude sur Maia.

L’extension du parc d’accélérateurs maison s’inscrit dans la hausse des investissements dans l’infrastructure d’IA : Microsoft chercherait à alléger sa facture d’achats de GPU externes et à diversifier sa chaîne d’approvisionnement en puces.

Pour autant, ses puces ne devraient pas remplacer entièrement les GPU de Nvidia ou d’AMD.

Microsoft garderait une infrastructure mixte, avec des accélérateurs maison et des GPU externes, en choisissant pour chaque service d’IA le système le mieux adapté.