336 milliards de transistors, 288 Go de HBM4 et jusqu’à 50 PFLOPS en NVFP4 sparse : la prochaine grosse marche de NVIDIA se joue clairement à l’échelle du rack. Derrière la démonstration de force, l’enjeu est moins la puce seule que la manière de faire circuler calcul, mémoire et énergie entre 72 GPU sans tout bloquer sur la latence.
Rubin GPU : une puce pensée pour le calcul massif distribué
NVIDIA a livré un premier décryptage technique de son architecture Rubin, au cœur d’un accélérateur annoncé à 50 PetaFLOPS en opérations NVFP4 sparse. En configuration complète, le GPU aligne jusqu’à 224 SM, 896 Tensor Cores et un Transformer Engine de troisième génération.
Le die grimpe à 336 milliards de transistors. L’organisation interne repose sur des Graphics Processor Clusters avec cache L2 centralisé, épaulés par le GigaThread Engine pour l’orchestration des charges et l’optimisation de l’utilisation des ressources. NVIDIA mentionne aussi des partitions MIG Control, qui permettent de découper le GPU en plusieurs instances virtuelles.
HBM4, NVLink 6 et communication directe entre GPU
Côté mémoire, Rubin embarque 288 Go de HBM4 via des modules 12-high. Les contrôleurs HBM et les PHY associés poussent la bande passante mémoire à 22 To/s, tandis que le Tensor Memory Accelerator a été revu pour améliorer l’efficacité des transferts de données.
La mise à l’échelle passe par NVLink 6, avec 3 600 Go/s de bande passante fabric en communication all-to-all entre GPU. À cela s’ajoute NVLink-C2C pour les échanges CPU-GPU à 1 800 Go/s, ainsi qu’un switch PCIe Gen 6 donné pour 256 Go/s vers les périphériques externes.
L’échelle rack impose aussi une discipline énergétique
L’un des points mis en avant par NVIDIA concerne la communication scale-up au sein de ses systèmes rack-scale. Avec Rubin, la firme introduit une logique de device-initiated communication : chaque GPU pilote directement ses transferts de données, ce qui évite une partie de la coordination externe et réduit les latences liées aux phases de synchronisation.
Dans un rack NVL72, qui regroupe 72 GPU, l’alimentation devient un sujet aussi critique que le calcul. Pour Vera Rubin NVL72, NVIDIA dit avoir développé un système d’Intelligent Power Smoothing afin de maintenir l’ensemble dans une enveloppe de puissance fixe malgré les variations rapides de charge entre CPU et GPU.
D’après NVIDIA, cette approche permet de réduire la consommation moyenne d’environ 10 % face à Grace Blackwell NVL72, tout en abaissant la puissance de crête sur 50 ms d’environ 20 %. L’optimisation du budget énergétique passe aussi par NVIDIA DSX MaxLPS.
Reste que cette montée en puissance prend tout son sens à l’échelle du système, où l’intégration de la plateforme Vera Rubin NVL72 et ses 72 GPU devient le vrai sujet technique.
Ce premier deep-dive confirme surtout une chose : chez NVIDIA, la prochaine bataille ne se joue plus seulement sur la densité de calcul d’un GPU, mais sur la capacité à faire tenir ensemble interconnexion, mémoire et alimentation à l’échelle d’un datacenter. Rubin avance comme une architecture de système avant d’être une simple puce, et c’est probablement là que se creuse l’écart industriel.
Source : TechPowerUp
