Microsoft annonce une nouvelle évolution de sa puce IA : Maia 300. Au-delà, il annonce aussi une nouvelle extension d’Azure Maia et un déploiement toujours plus massifs pour accroitre les capacités d’inférence.

Les principales annonces sont :

- Le système Azure Maia est conçu autour des charges de travail réelle que Microsoft exécute à grande échelle, ainsi que des nouveaux types de charges de travail IA qui émergent aujourd’hui : raisonnement sur de longs contextes, expériences conversationnelles sensibles à la latence et tâches agentiques soutenues en plusieurs étapes.

- En améliorant l’efficacité de l’ensemble du système, Microsoft prévoit que Maia 300 permettra de produire 40 % de tokens supplémentaires par mégawatt. Et dans une configuration complète de 96 accélérateurs, il offrira jusqu’à 7 fois le débit de tokens à l’échelle du rack de Maia 200. 

- Maia 300 s’appuie sur les enseignements tirés du déploiement à grande échelle des services d’IA de Microsoft, qui permettent une co-conception unique des systèmes matériels et des applications logicielles. Maia 300 s’inscrit dans le prolongement de Maia 200, déployé aux États-Unis, en Europe et en Australie, et qui fournit jusqu’à 1,7 fois plus de tokens par watt pour les capacités IA intégrées à Microsoft Teams, Copilot et Cowork, utilisées chaque jour par des centaines de millions de personnes.

-  Ensemble, Maia 200 et Maia 300 sont conçus pour prendre en charge un large éventail d’autres services d’IA de Microsoft : des tâches agentiques en plusieurs étapes permettant à GitHub de proposer plus efficacement ses expériences de développement ; la mise à disposition de modèles à l’échelle du cloud pour aider Microsoft Foundry à prendre en charge différentes architectures et différents environnements de déploiement ; l’inférence et la génération de données pour les équipes IA de Microsoft ; ainsi que des interactions sensibles à la latence pour permettre à Dragon Copilot de déployer ses workflows à grande échelle et de réduire la charge administrative des professionnels de santé.

Maia 300 doit pouvoir gérer jusqu’à 288 Go de SRAM et une bande passante de 18 To/s. Ce sont deux éléments importants pour les performances sur des charges IA. Microsoft travaille aussi sur un rack Maia 300 : 96 Maia 300, 167 kW. Le déploiement sera progressif sur 2027.