En direct au SIGGRAPH, NVIDIA a annoncé la plate-forme NVIDIA GH200 Grace Hopper de nouvelle génération. Basée sur une nouvelle Superchip Grace Hopper, avec le premier processeur HBM3e au monde, elle est conçue pour l’ère de l’informatique accélérée et de l’IA générative.
La puce Grace Hopper a été créée pour gérer les charges de travail d’IA génératives les plus complexes au monde, en couvrant de grands modèles de langage, des systèmes de recommandation et des bases de données vectorielles. La nouvelle plate-forme sera disponible dans une large gamme de configurations.
La mémoire HBM3e de la plateforme GH200 Grace Hopper Superchip est 50 % plus rapide que la HBM3 actuelle
La configuration double offre jusqu’à 3,5 fois plus de capacité de mémoire et 3 fois plus de bande passante que la génération actuelle. Nous trouvons un serveur unique avec 144 cœurs Arm Neoverse, huit pétaflops de performances AI et 282 Go de la dernière technologie de mémoire HBM3e.
Pour répondre à la demande croissante d’IA générative, les centres de données ont besoin de plates-formes informatiques accélérées avec des besoins spécialisés. La nouvelle plate-forme GH200 Grace Hopper Superchip offre cela avec une technologie de mémoire et une bande passante exceptionnelles pour améliorer le débit, la possibilité de connecter des GPU pour agréger les performances sans compromis et une conception de serveur qui peut être facilement déployée dans l’ensemble du centre de données.
Jensen Huang, fondateur et PDG de NVIDIA.
La nouvelle plateforme Grace Hopper Superchip peut être connectée à des Superchips supplémentaires par NVIDIA NVLink, leur permettant de travailler ensemble pour déployer les modèles géants utilisés pour l’IA générative. Cette technologie cohérente à grande vitesse donne au GPU un accès complet à la mémoire du processeur, fournissant une mémoire rapide combinée de 1,2 To en configuration double.
La mémoire HBM3e est 50 % plus rapide que la HBM3 actuelle, et offre un total de 10 To/sec de bande passante combinée. Ce qui permet à la nouvelle plate-forme d’exécuter des modèles 3,5 fois plus grands que la version précédente, tout en améliorant les performances avec une bande passante mémoire 3 fois plus rapide.
Les principaux fabricants proposent déjà des systèmes basés sur la précédente puce Grace Hopper Superchip. La plate-forme Grace Hopper Superchip de nouvelle génération avec HBM3e est entièrement compatible avec la spécification du serveur NVIDIA MGX dévoilée au COMPUTEX. Avec MGX, n’importe quel fabricant de système peut rapidement et à moindre coût ajouter Grace Hopper à plus de 100 variantes de serveur.
Les premiers systèmes basés sur la plate-forme seront livrés par les principaux fabricants de systèmes au cours du deuxième trimestre de l’année 2024.
Source : Blog NVIDIA
Retrouvez toute l’actualité hardware ici
