FuriosaAI RNGD : accélérateur d’inférence 5 nm, 512 TOPS INT8 à 180 W

FuriosaAI passe à la vitesse supérieure : la société coréenne annonce la mise en production de son accélérateur d’inférence de seconde génération, RNGD. Les premiers 4000 systèmes ont été livrés par TSMC et Asus, signe que la chaîne d’industrialisation est en place et que l’offre vise une disponibilité immédiate pour les data centers existants.

Palettes de cartons RNGD empilés dans un entrepôt avec chariot élévateur.

Spécifications et positionnement

Gravé en 5 nm chez TSMC, le RNGD combine 256 Mo de cache SRAM on-die et deux piles de HBM3, soit 48 Go au total. FuriosaAI annonce jusqu’à 512 TOPS en INT8 pour un TDP de 180 W, un ratio performance/consommation taillé pour les baies à refroidissement par air et les contraintes d’alimentation modestes.

La cible est claire : l’inférence de grands modèles, avec la prise en charge de GPT-OSS 120B (en configuration bi-carte) et de Qwen 2.5 entre autres. L’écosystème se décline en deux produits : une carte PCIe AIC autonome et un serveur 4U « clé en main » NXT RNGD intégrant huit cartes.

Déploiement et usage

Avec 180 W par carte, le RNGD vise des salles sans watercooling, où l’intégration de GPU/ASIC haut TDP est souvent bloquée par l’enveloppe thermique et électrique. La configuration 8× AIC en 4U suggère un focus sur la densité et la latence mémoire, la HBM3 de 48 Go par carte offrant un tampon confortable pour des variantes quantifiées de LLMs.

Le partenariat industriel avec Asus pour les plateformes et TSMC pour la fab conforte une montée en charge crédible. Reste la question logicielle, déterminante pour l’adoption face aux piles CUDA/Rocm, que FuriosaAI devra éclairer rapidement pour convertir l’intérêt en déploiements en production.

Source : ITHome

Wael.K

Ravi de vous accueillir sur ma page dédiée aux articles ! Je suis Wael El Kadri, et je suis un ingénieur civil de profession. Mais ma véritable passion est le matériel informatique. J'en suis passionné depuis l'âge de 12 ans, et j'aime apprendre et découvrir de nouvelles choses. En 2016, j'ai créé ma page personnelle sur les réseaux sociaux, baptisée Pause Hardware. C'est là que je partage mes créations en modding, mais aussi divers sujets liés au matériel informatique en général. J'ai également crée le site web, pausehardware.com, en 2019 où je publie des articles plus approfondis sur le matériel à travers des tests et revues et articles de news. J'ai eu l'opportunité de participer en tant qu'exposant à plusieurs événements liés aux jeux vidéo, aux côtés de grandes marques, notamment lors de la Paris Game Week en 2018 et 2019. Je reste constamment en quête de nouvelles manières de partager mes connaissances et ma passion pour le matériel informatique avec d'autres passionnés. Voici quelques publications médiatiques qui ont mis en lumière mon travail : Deux articles dans le magazine Extreme PC, parus dans ses  numéros 1 et 21 : Extreme PC Magazine Issue 21 (adobe.com) Également, un article sur Forbes intitulé "Dix Modèles de PC Incroyables en 2021" sur forbes.com : Ten Incredible PC Mods Of 2021 (forbes.com)
guest
0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
Commentaires en ligne
Afficher tous les commentaires
Bouton retour en haut de la page
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x