Faire tourner un modèle de 235 milliards de paramètres sous un bureau devient une proposition commerciale concrète. Gigabyte mise sur deux configurations GPU très différentes pour rapprocher l’inférence et l’entraînement des données sensibles.
Gigabyte AI TOP : deux voies pour le calcul local
Le Gigabyte AI TOP 100 B850 repose sur un AMD Ryzen 9 9950X à 16 cœurs et 32 threads, accompagné de 128 Go de DDR5 et d’un SSD PCIe Gen 4 de 2 To. Cette base vise l’ajustement local de LLM, l’IA générative, la recherche en deep learning et les systèmes agentiques.
La première configuration reçoit une NVIDIA GeForce RTX 5090 et cible les traitements accélérés par CUDA. Gigabyte annonce jusqu’à 64,9 tokens par seconde lors de l’exécution d’un modèle de 32 milliards de paramètres, un niveau destiné aux applications interactives exigeant une génération rapide.
Deux Radeon et 64 Go de VRAM pour les modèles massifs
L’autre version embarque deux AMD Radeon AI PRO R9700 totalisant 64 Go de VRAM. Elle peut, d’après le constructeur, assurer l’inférence de modèles comptant jusqu’à 235 milliards de paramètres et l’ajustement de modèles atteignant 110 milliards de paramètres.
Cette variante privilégie donc la capacité mémoire plutôt que l’écosystème CUDA et la vitesse de génération mise en avant sur la RTX 5090. Elle répond aux projets dont la taille du modèle ou des contextes dépasse les possibilités d’une carte graphique unique.
Une architecture évolutive conçue pour les longues charges
La machine utilise des composants de bureau standards afin de préserver une voie de mise à niveau. Deux emplacements PCIe 5.0 accueillent les GPU, tandis que la mémoire et le stockage restent extensibles pour suivre l’augmentation des modèles, des jeux de données et des environnements de développement.
Gigabyte associe une carte mère AI TOP à un refroidissement liquide du processeur et à un châssis optimisé pour le débit d’air. Le dispositif doit évacuer la chaleur du CPU, des GPU et des autres composants pendant les cycles de calcul prolongés. Une alimentation de 1 600 W certifiée 80 Plus Platinum fournit la puissance nécessaire et conserve une marge pour de futures extensions.
Double 10GbE, Wi-Fi 7 et outils intégrés
Deux interfaces réseau 10GbE accélèrent les transferts de jeux de données, l’accès au stockage partagé et les échanges entre systèmes. Le Wi-Fi 7 complète cette connectivité, avec notamment un port USB Type-C à 20 Gbit/s pour limiter les goulets d’étranglement avec les périphériques externes.
Le logiciel Gigabyte AI TOP Utility centralise la surveillance du système, le déchargement de la mémoire et la création de jeux de données. Il accompagne l’entraînement et l’ajustement de modèles textuels comme multimodaux depuis une interface unifiée.
Le choix entre RTX 5090 et double Radeon R9700 résume le principal arbitrage de cette station : privilégier CUDA et la réactivité, ou maximiser la VRAM pour charger des modèles plus imposants. Sa conception standardisée la distingue par ailleurs des appliances IA plus fermées, avec une maintenance et une évolution potentiellement plus simples pour les petites équipes de recherche et les entreprises souhaitant conserver leurs données sur site.
Source : Gigabyte
