Quatre mini PC, un seul cluster IA local : GEEKOM veut montrer qu’une infrastructure compacte peut désormais absorber des usages jusqu’ici réservés à des machines bien plus lourdes. L’intérêt est immédiat pour les entreprises qui cherchent à garder leurs données sensibles hors du cloud public.
Un cluster GEEKOM A9 Mega distribué via USB4
GEEKOM a déployé DeepSeek V4 Flash sur quatre systèmes GEEKOM A9 Mega reliés entre eux pour fonctionner comme une plateforme distribuée unique. L’ensemble ne repose pas sur un serveur de datacenter, mais sur une interconnexion USB4 entre quatre mini PC.
Chaque A9 Mega embarque un AMD Ryzen AI Max+ 395, avec 16 cœurs CPU Zen 5, un iGPU Radeon 8060S et de la mémoire unifiée, le tout dans un châssis compact. La pile logicielle s’appuie sur Ubuntu, ROCm et DwarfStar pour répartir une version optimisée de DeepSeek V4 Flash entre les machines.
GEEKOM précise aussi la présence d’une API compatible OpenAI pour relier applications et agents IA. L’usage de l’USB4 évite le recours à un switch haut débit propriétaire ou à une baie serveur dédiée.
Une cible claire : l’IA privée en entreprise
Le constructeur met en avant un scénario simple : conserver localement les prompts, documents, codes source, identifiants et résultats intermédiaires. Pour les organisations qui manipulent des données internes sensibles, l’intérêt est moins dans l’effet vitrine que dans le contrôle de l’infrastructure.
Le cluster peut servir à créer des assistants de connaissance privés capables d’explorer des politiques internes, manuels, contrats, rapports et autres documents métiers. Sont aussi cités la revue documentaire, l’analyse de code source, le RAG local, la recherche multi-sources et l’automatisation de workflows sous contraintes.
Jusqu’à 250K tokens de contexte
Pour les systèmes d’agents comme Hermes Agent, la plateforme peut traiter outils, politiques, mémoire, logs, code et informations récupérées avant exécution. GEEKOM indique un fonctionnement technique avec des contextes pouvant atteindre 250K tokens, un point important pour les longs documents, les bases de code volumineuses et les tâches multi-étapes.
Performances annoncées et montée en charge
En concurrence simple, le système a délivré environ 14,61 tokens par seconde, avec un P95 time to first token d’environ 0,42 seconde sur les tests 32 et 128 tokens. GEEKOM insiste davantage sur la capacité et l’accélération sur prompts longs que sur la seule vitesse de génération brute.
Le dimensionnement se veut progressif : une organisation peut démarrer avec un ou deux systèmes, puis évoluer jusqu’à quatre nœuds. Chaque A9 Mega peut être utilisé de manière autonome ou intégré à l’inférence distribuée, ce qui donne à cette approche un intérêt pratique supérieur à celui d’une simple démonstration technique.
Ce type d’assemblage ne remplace évidemment pas un vrai cluster serveur sur tous les usages, mais il illustre bien un mouvement de fond : l’IA locale commence à trouver une forme matérielle crédible entre le poste de travail et le rack, avec un ticket d’entrée et une complexité d’intégration nettement plus faibles.
Source : TechPowerUp
