L’énergie est la contrainte incontournable des infrastructures d’IA. Le nombre de jetons qu’une usine d’IA peut générer dans le cadre d’un budget énergétique fixe détermine ses revenus et sa rentabilité. C’est pourquoi la performance par watt — une mesure qui ne peut pas être manipulée, mais seulement obtenue grâce à des résultats concrets — est le fondement des usines d’IA.
Alors que l’IA agentique entraîne une hausse de la demande en jetons, les décisions d’infrastructure que les entreprises prennent aujourd’hui détermineront qui pourra passer à l’échelle et qui ne le pourra pas dans un monde où l’énergie est une contrainte.
Presque tous les modèles d’IA de pointe fonctionnent aujourd’hui sur une architecture Mixture of Experts (MoE). Servir efficacement ces modèles à grande échelle signifie que la taille du domaine GPU — le nombre de GPU connectés via une interconnexion ultra-rapide de type scale-up — a son importance, et plus elle est grande, mieux c’est.
Alors que la génération NVIDIA Hopper a établi la norme avec un domaine à huit GPU, l’échelle de l’IA de pointe actuelle l’a désormais dépassée. La mise en service du MoE avec un domaine à 72 GPU nécessite une co-conception full-stack et la profondeur opérationnelle offerte par l’exécution de ces modèles sous des charges de production réelles.
Grâce à la plateforme NVIDIA Blackwell NVL72, cette base est déjà conçue et éprouvée, offrant les performances par watt les plus élevées pour maximiser les revenus et le coût par jeton le plus bas pour maximiser les marges bénéficiaires. C’est sur cette base que s’appuiera ensuite la plateforme NVIDIA Vera Rubin pour améliorer encore davantage l’efficacité énergétique à l’échelle du rack.
Maximiser les performances par watt pour l’IA de pointe
Chaque nouvelle génération de modèles de pointe apporte des modifications architecturales qui permettent de fournir une intelligence accrue tout en nécessitant de nouvelles optimisations pour s’exécuter efficacement à grande échelle.
Sur la nouvelle génération des principaux modèles ouverts, NVIDIA GB300 NVL72 fournit des performances par watt jusqu’à 25 fois plus élevées que la génération NVIDIA Hopper, ce qui montre que les performances MoE s’améliorent lors du passage d’une taille de domaine de 8 GPU à 72 GPU. Ces chiffres illustrent la situation actuelle de Blackwell, un point de départ qui ne cesse de s’améliorer.
Un chiffre, quel qu’il soit, ne raconte qu’une partie de l’histoire. Différentes charges de travail nécessitent des points d’exploitation différents : certaines sont optimisées pour la latence, d’autres pour le débit et les coûts, et la plupart doivent passer d’un point d’exploitation à l’autre.
Pour représenter au mieux ces points d’exploitation, NVIDIA présente des courbes de Pareto pour chaque modèle plutôt qu’un point unique, et fournit des outils tels que DynoSim pour aider les équipes à identifier leur configuration optimale sur la frontière de Pareto avant de consacrer une seule heure de calcul GPU à la validation.
Les performances par watt fournies par NVIDIA Blackwell sont le résultat d’une co-conception poussée : chaque composant du système à l’échelle du rack, du silicium aux logiciels, a été conçu conjointement pour maximiser le débit de jetons des charges d’inférence IA. Cette co-conception s’applique à chaque couche de la pile.
Par exemple, NVIDIA NVLink Switch, essentiel pour les performances à l’échelle du rack, est spécialement conçu pour débloquer des domaines GPU évolutifs à grande échelle, et n’est pas adapté de la mise en réseau à usage général. Désormais à sa sixième génération avec la plateforme Vera Rubin, ses capacités sont précisément conçues pour les charges de travail d’IA telles que SHARP, qui effectue le calcul en réseau directement dans le commutateur, déchargeant ainsi les GPU eux-mêmes.
La pile logicielle d’inférence de NVIDIA, qui inclut NVIDIA Dynamo et TensorRT LLM, ainsi que SGLang et vLLM, est conçue pour exécuter la gamme complète d’optimisations : la quantification NVFP4, l’inférence désagrégée, le parallélisme d’experts à grande échelle, le routage prenant en charge le KV, le déchargement du cache KV et bien plus encore. Ces technologies s’empilent pour multiplier les performances fournies par chaque GPU. En outre, les logiciels ne cessent d’améliorer les performances au fil du temps : sur DeepSeek V4, les performances par watt ont été multipliées par 5 en un seul mois.
Dans les usines d’IA, l’énergie perdue à cause du refroidissement et des inefficacités au niveau du rack peut signifier que seulement 60 % environ de l’électricité tirée du réseau se transforme en travaux d’IA utiles. NVIDIA DSX MaxLPS, le logiciel de gestion de la puissance et de l’efficacité intégré à la plateforme NVIDIA DSX, répond à ce défi en répartissant dynamiquement la consommation entre les GPU et les racks en temps réel, en prenant en charge le refroidissement liquide à eau chaude et en utilisant des techniques telles que le pilotage de la puissance pour améliorer les performances. Cela permet aux opérateurs d’exécuter jusqu’à 40 % de GPU de plus avec le même budget d’énergie.
C’est la production qui compte
La fiabilité à l’échelle du rack, dans les usines d’IA, est le fruit d’un travail de longue haleine. Les systèmes à l’échelle du rack introduisent des modes de défaillance inédits pour les déploiements à nœud unique, et leur gestion nécessite une rigueur d’ingénierie et du temps en production.
Les systèmes NVIDIA Blackwell NVL72 continuent d’établir de nouvelles références pour une large gamme de modèles et de cas d’utilisation en production, en offrant des performances soutenues, une fiabilité à l’échelle du rack et une rentabilité adaptées aux charges réelles, jour après jour.
C’est pourquoi les principaux laboratoires d’IA tels que Anthropic, OpenAI et SpaceXAI utilisent les systèmes NVIDIA Blackwell NVL72 pour exécuter l’inférence.
En outre, de nombreux fournisseurs de services d’inférence et entreprises natives de l’IA utilisent la plateforme Blackwell pour déployer des modèles ouverts en production.
CoreWeave a déployé Kimi K2.6 sur NVIDIA GB300 NVL72, combinant la quantification NVFP4 et le décodage spéculatif EAGLE3 pour maximiser les performances d’inférence.
Perplexity exécute Qwen3 235B et le modèle post-entraîné Qwen3.5-397B-A17B sur NVIDIA GB200 NVL72 pour sa plateforme d’agents d’IA, traitant des millions de requêtes par jour avec la latence et la fiabilité nécessaires aux consommateurs.
Fireworks AI déploie GLM 5.2 sur la plateforme NVIDIA Blackwell, ce qui permet des déploiements de production pour ses clients, notamment Cursor et Factory AI.
C’est cette expérience accumulée en production, issue de générations successives de modèles de pointe et de déploiements réels, qui confère à NVIDIA Vera Rubin son avantage initial.
Pour en savoir plus sur la plateforme NVIDIA Vera Rubin, consultez ce blog technique et retrouvez des détails sur la plateforme d’IA NVIDIA DSX à l’échelle des usines et sur DSX MaxLPS.