Le calcul explose, la facture thermique aussi : le rack NVL72 « Blackwell Ultra » de NVIDIA frôle les 50 000 dollars de refroidissement, d’après un modèle de Morgan Stanley (environ 46 000 à 47 000 euros).
e NVL72, vitrine des performances… et des kilowatts
Présenté comme la configuration phare GB300, le rack Oberon NVL72 s’appuie sur des Superchips Grace Blackwell Ultra et vise des performances FP4 denses de classe exascale, avec un meilleur débit par mégawatt que les plateformes HGX précédentes. Mais il faut dire que l’extrême densité impose un refroidissement liquide massif : 72 GPU donnés à 1 400 W TDP chacun, soit plus de 100 kW rien que pour les accélérateurs, auxquels s’ajoutent 32 CPU Grace. Les solutions à air ne sont plus une option crédible.
Selon la banque, le rack est modélisé avec 18 tiroirs de calcul, environ 6,6 kW consommés chacun, dont 6,2 kW à évacuer, et 9 tiroirs de commutation. La ligne de refroidissement d’un tiroir de calcul est valorisée autour de 2 260 dollars, soit près de 40 680 dollars à l’échelle du rack. Les tiroirs réseau ajoutent environ 1 020 dollars pièce, donc 9 180 dollars. Au total, on approche ainsi des 50 000 dollars, principalement tirés par les plaques froides hautes performances, « identifiées comme les éléments les plus coûteux » selon le rapport.
La prochaine étape « Vera Rubin » NVL144 coûterait encore plus
Intéressant : la future configuration NVL144 « Vera Rubin » nécessiterait davantage de matériel thermique, GPU et interconnexions augmentant leur enveloppe énergétique. Morgan Stanley anticipe une hausse d’environ 17 %, soit près de 55 710 dollars (environ 51 500 à 52 000 euros). Rien d’étonnant à ce que, à mesure que la densité et le TDP progressent, la note et la complexité d’ingénierie grimpent au même rythme.
Reste à voir si l’optimisation des plaques froides, des boucles et des échangeurs suivra la cadence, car avec des switches plus gourmands, le refroidissement devient un poste budgétaire clé de l’infrastructure IA, autant qu’un défi d’intégration.
Source : TechPowerUp
