
Faire tourner un assistant sur sa propre machine ne se résume pas à choisir une grosse carte graphique : les poids et le contexte doivent tenir en mémoire, tandis que les chargements sollicitent le stockage. C’est sur ces deux contraintes que se construit la nouvelle gamme de Patriot Memory.
Baptisée AI Matrix, elle réunit des kits DDR5 et des SSD NVMe PCIe au format M.2 2280, répartis entre trois niveaux : PRO, Mid et Entry. Le fabricant cible les assembleurs, les créateurs et les PME qui exécutent leurs traitements d’IA sur place, avec confidentialité des données, fonctionnement hors ligne et coûts matériels prévisibles, sans facturation récurrente de jetons d’API.
AI Matrix : trois configurations, de 7B à 70B
Patriot associe chaque palier de capacité et de vitesse mémoire à une génération de SSD, du PCIe 3.0 au PCIe 5.0. Cette segmentation vise à adapter le budget à la taille des LLM, mais aussi aux accès aux grands checkpoints et aux jeux de données RAG locaux.
Le niveau PRO cible les modèles de 34 à 70 milliards de paramètres, pour le RAG en entreprise, les appels d’outils en plusieurs étapes et les traitements multilingues. Le SSD AI Matrix MS560, en PCIe Gen 5 x4, existe en 1 To, 2 To et 4 To ; la version 4 To atteint jusqu’à 14 000 Mo/s en lecture et 11 000 Mo/s en écriture séquentielles. Il est associé au kit UDIMM AI Matrix MD57N de 64 Go (2 × 32 Go), donné pour de la DDR5 jusqu’à 6000 MT/s en overclocking.
Le palier Mid couvre les modèles de 14 à 34 milliards de paramètres, avec pour usages la compréhension multimodale, la génération de code et les assistants locaux. Son AI Matrix MS450 adopte une interface PCIe Gen 4 x4 et des capacités de 1 To, 2 To et 4 To, pour des débits séquentiels annoncés jusqu’à 5 000 Mo/s en lecture et 4 500 Mo/s en écriture. Le kit AI Matrix MD55N fournit 32 Go (2 × 16 Go) de DDR5, jusqu’à 6000 MT/s en overclocking.
L’offre Entry vise les modèles de 7 à 14 milliards de paramètres, pour l’aide à la programmation, la traduction et la rédaction. Le SSD AI Matrix MS350 reste en PCIe Gen 3 x4, avec 512 Go, 1 To ou 2 To et jusqu’à 3 000 Mo/s en lecture et 2 000 Mo/s en écriture séquentielles. Les kits AI Matrix MD35N / MD34N proposent 32 Go (2 × 16 Go) de DDR5 à 5600 MT/s.
Des validations mensuelles sur Llama, Gemma et CodeLlama
Patriot met en avant des puces DRAM sélectionnées pour maintenir la stabilité multicanal pendant la génération continue de jetons et le traitement du contexte. La NAND à haute endurance doit, de son côté, supporter les chargements lourds de modèles et les cycles fréquents de lecture et d’écriture des jeux de données. Le communiqué ne chiffre toutefois pas cette endurance en TBW.
Chaque niveau fait l’objet de benchmarks mensuels sur des LLM open source, notamment Llama, Gemma et CodeLlama. Les mesures portent sur le traitement des prompts (pp512) et la génération de jetons (tg128), complétées par des tests prolongés de charge locale pour vérifier la stabilité thermique et opérationnelle. Patriot prévoit d’actualiser ces validations au rythme de l’évolution des modèles pour guider intégrateurs et assembleurs.
La correspondance entre capacité mémoire et nombre de paramètres reste à lire avec précaution : la quantification, la longueur du contexte et la répartition entre RAM et VRAM déterminent l’empreinte réelle. Les validations auront donc davantage de valeur si elles détaillent ces conditions ; les seuls débits séquentiels des SSD ne permettent pas de déduire une vitesse de génération.
Source : Patriot