Le modèle open source le plus récent de Google, Gemma 4, peut désormais être déployé sur le matériel grand public de NVIDIA, offrant des performances optimisées pour les charges de travail d’IA agentique.
Modèles open source sur GPU RTX : Gemma 4 de Google
NVIDIA franchit une nouvelle étape dans le déploiement des modèles open source sur GPU RTX grâce à Gemma 4 de Google. Cette avancée s’inscrit dans une tendance forte : l’essor de l’IA embarquée, qui étend l’innovation au-delà du cloud pour l’amener directement sur les appareils du quotidien. À mesure que ces modèles évoluent, leur valeur repose de plus en plus sur l’accès à un contexte local et en temps réel, capable de transformer des données pertinentes en actions concrètes. Conçue dans cette optique, la nouvelle génération Gemma 4 introduit des modèles compacts, rapides et polyvalents, pensés pour une exécution locale efficace sur une grande variété d’appareils.
Fruit d’une collaboration étroite entre Google et NVIDIA, Gemma 4 a été optimisé pour les GPU NVIDIA afin de garantir des performances élevées sur de multiples plateformes : des centres de données aux PC et stations de travail équipés de RTX, en passant par le supercalculateur personnel DGX Spark et les modules embarqués Jetson Orin Nano.
La famille Gemma 4 s’enrichit de plusieurs variantes — E2B, E4B, 26B et 31B — conçues pour un déploiement fluide, depuis les dispositifs edge jusqu’aux GPU hautes performances. Ces modèles compacts de nouvelle génération prennent en charge un large éventail d’usages : raisonnement avancé pour la résolution de problèmes complexes, génération et débogage de code, utilisation d’outils structurés via des agents, ainsi que des capacités multimodales étendues (vision, vidéo et audio). Ils permettent également de combiner librement texte et images au sein d’une même requête et offrent un support multilingue étendu, avec plus de 35 langues disponibles nativement et un préentraînement couvrant plus de 140 langues.
Les versions E2B et E4B sont spécialement conçues pour une inférence ultra-efficace en périphérie, avec une latence minimale et un fonctionnement entièrement hors ligne sur de nombreux appareils, notamment les modules Jetson Nano. De leur côté, les modèles 26B et 31B ciblent les performances élevées en raisonnement et les workflows orientés développement, ce qui les rend particulièrement adaptés aux environnements d’IA agentique. Ils fonctionnent de manière optimale sur les GPU RTX et DGX Spark, alimentant des environnements de développement, des assistants de programmation et des processus automatisés pilotés par des agents.
Avec la montée en puissance de l’IA agentique locale, des solutions comme OpenClaw permettent désormais de déployer des assistants intelligents en continu sur PC RTX, stations de travail et DGX Spark. Les modèles Gemma 4 sont compatibles avec cet écosystème, offrant aux utilisateurs la possibilité de créer des agents locaux performants, capables d’exploiter le contexte issu de fichiers personnels, d’applications et de flux de travail pour automatiser des tâches.
Pour faciliter leur adoption, NVIDIA s’est associé à Ollama et llama.cpp afin d’offrir une expérience de déploiement local optimale pour chaque variante de Gemma 4. Les utilisateurs peuvent ainsi télécharger Ollama pour exécuter les modèles, ou installer llama.cpp en l’associant aux checkpoints GGUF disponibles sur Hugging Face. En complément, Unsloth propose dès le lancement des versions optimisées et quantifiées, permettant un fine-tuning et un déploiement local efficaces via Unsloth Studio.
L’exécution de modèles ouverts comme Gemma 4 sur les GPU NVIDIA garantit des performances de premier plan grâce aux Tensor Cores, qui accélèrent les charges d’inférence en augmentant le débit tout en réduisant la latence. Par ailleurs, l’écosystème logiciel CUDA assure une large compatibilité avec les principaux frameworks et outils, permettant une prise en charge rapide des nouveaux modèles.
Cette synergie permet à Gemma 4 de s’adapter facilement à une grande diversité d’environnements, du edge computing avec Jetson Orin Nano jusqu’aux PC RTX, stations de travail et systèmes DGX Spark, sans nécessiter d’optimisations lourdes.
