AI Matrix : Patriot associe SSD et DDR5 pour les modèles locaux de 7 à 70 milliards

Faire tourner un assistant sur sa propre machine ne se résume pas à choisir une grosse carte graphique : les poids et le contexte doivent tenir en mémoire, tandis que les chargements sollicitent le stockage. C’est sur ces deux contraintes que se construit la nouvelle gamme de Patriot Memory.

Baptisée AI Matrix, elle réunit des kits DDR5 et des SSD NVMe PCIe au format M.2 2280, répartis entre trois niveaux : PRO, Mid et Entry. Le fabricant cible les assembleurs, les créateurs et les PME qui exécutent leurs traitements d’IA sur place, avec confidentialité des données, fonctionnement hors ligne et coûts matériels prévisibles, sans facturation récurrente de jetons d’API.

AI Matrix : trois configurations, de 7B à 70B

Patriot associe chaque palier de capacité et de vitesse mémoire à une génération de SSD, du PCIe 3.0 au PCIe 5.0. Cette segmentation vise à adapter le budget à la taille des LLM, mais aussi aux accès aux grands checkpoints et aux jeux de données RAG locaux.

Le niveau PRO cible les modèles de 34 à 70 milliards de paramètres, pour le RAG en entreprise, les appels d’outils en plusieurs étapes et les traitements multilingues. Le SSD AI Matrix MS560, en PCIe Gen 5 x4, existe en 1 To, 2 To et 4 To ; la version 4 To atteint jusqu’à 14 000 Mo/s en lecture et 11 000 Mo/s en écriture séquentielles. Il est associé au kit UDIMM AI Matrix MD57N de 64 Go (2 × 32 Go), donné pour de la DDR5 jusqu’à 6000 MT/s en overclocking.

Le palier Mid couvre les modèles de 14 à 34 milliards de paramètres, avec pour usages la compréhension multimodale, la génération de code et les assistants locaux. Son AI Matrix MS450 adopte une interface PCIe Gen 4 x4 et des capacités de 1 To, 2 To et 4 To, pour des débits séquentiels annoncés jusqu’à 5 000 Mo/s en lecture et 4 500 Mo/s en écriture. Le kit AI Matrix MD55N fournit 32 Go (2 × 16 Go) de DDR5, jusqu’à 6000 MT/s en overclocking.

L’offre Entry vise les modèles de 7 à 14 milliards de paramètres, pour l’aide à la programmation, la traduction et la rédaction. Le SSD AI Matrix MS350 reste en PCIe Gen 3 x4, avec 512 Go, 1 To ou 2 To et jusqu’à 3 000 Mo/s en lecture et 2 000 Mo/s en écriture séquentielles. Les kits AI Matrix MD35N / MD34N proposent 32 Go (2 × 16 Go) de DDR5 à 5600 MT/s.

Des validations mensuelles sur Llama, Gemma et CodeLlama

Patriot met en avant des puces DRAM sélectionnées pour maintenir la stabilité multicanal pendant la génération continue de jetons et le traitement du contexte. La NAND à haute endurance doit, de son côté, supporter les chargements lourds de modèles et les cycles fréquents de lecture et d’écriture des jeux de données. Le communiqué ne chiffre toutefois pas cette endurance en TBW.

Chaque niveau fait l’objet de benchmarks mensuels sur des LLM open source, notamment Llama, Gemma et CodeLlama. Les mesures portent sur le traitement des prompts (pp512) et la génération de jetons (tg128), complétées par des tests prolongés de charge locale pour vérifier la stabilité thermique et opérationnelle. Patriot prévoit d’actualiser ces validations au rythme de l’évolution des modèles pour guider intégrateurs et assembleurs.

La correspondance entre capacité mémoire et nombre de paramètres reste à lire avec précaution : la quantification, la longueur du contexte et la répartition entre RAM et VRAM déterminent l’empreinte réelle. Les validations auront donc davantage de valeur si elles détaillent ces conditions ; les seuls débits séquentiels des SSD ne permettent pas de déduire une vitesse de génération.

Source : Patriot

Wael.K

Ravi de vous accueillir sur ma page dédiée aux articles ! Je suis Wael El Kadri, et je suis un ingénieur civil de profession. Mais ma véritable passion est le matériel informatique. J'en suis passionné depuis l'âge de 12 ans, et j'aime apprendre et découvrir de nouvelles choses. En 2016, j'ai créé ma page personnelle sur les réseaux sociaux, baptisée Pause Hardware. C'est là que je partage mes créations en modding, mais aussi divers sujets liés au matériel informatique en général. J'ai également crée le site web, pausehardware.com, en 2019 où je publie des articles plus approfondis sur le matériel à travers des tests et revues et articles de news. J'ai eu l'opportunité de participer en tant qu'exposant à plusieurs événements liés aux jeux vidéo, aux côtés de grandes marques, notamment lors de la Paris Game Week en 2018 et 2019. Je reste constamment en quête de nouvelles manières de partager mes connaissances et ma passion pour le matériel informatique avec d'autres passionnés. Voici quelques publications médiatiques qui ont mis en lumière mon travail : Deux articles dans le magazine Extreme PC, parus dans ses  numéros 1 et 21 : Extreme PC Magazine Issue 21 (adobe.com) Également, un article sur Forbes intitulé "Dix Modèles de PC Incroyables en 2021" sur forbes.com : Ten Incredible PC Mods Of 2021 (forbes.com)
guest
0 Commentaires
Le plus ancien
Le plus récent Le plus populaire
0
Nous aimerions avoir votre avis, veuillez laisser un commentaire.x