Un agent IA qui dépasse ses permissions pourrait désormais être placé en quarantaine en quelques millisecondes, depuis un composant extérieur à son environnement d’exécution. Cette sécurité renforce aussi, très opportunément, l’intérêt commercial des DPU BlueField-4.
Avec NVIDIA Open Agent Safety, Jensen Huang apporte une réponse technique aux inquiétudes entourant les systèmes agentiques. La plateforme combine un environnement logiciel ouvert et un dispositif de surveillance matériel, avec l’objectif de contrôler les accès sans ralentir le déploiement de nouveaux modèles.
NVIDIA Open Agent Safety combine OpenShell et Sentry
Premier élément, OpenShell est un runtime open source qui isole les agents IA au niveau du noyau. Il limite leur accès aux fichiers, outils et services externes aux seules méthodes autorisées, protège les identifiants réels et journalise les décisions liées aux permissions.
Sentry constitue la couche matérielle du dispositif. Installé sur les DPU NVIDIA BlueField-4, ce gardien observe le raisonnement d’un agent depuis l’extérieur du système hôte et peut le mettre en quarantaine en quelques millisecondes s’il tente de franchir les limites définies.
Cette séparation est centrale : un agent compromis ne peut théoriquement pas neutraliser un contrôleur situé hors de son environnement. La proposition dépasse ainsi le simple filtrage logiciel, mais son efficacité dépendra des capacités réelles d’observation et des politiques appliquées en production.
Une réponse aux appels à ralentir le développement de l’IA
La présentation intervient après plusieurs prises de position d’Anthropic et d’OpenAI sur les risques des modèles avancés. Parmi les scénarios évoqués figurent une probabilité supérieure à 10 % que l’IA provoque la disparition de l’humanité durant la prochaine décennie, ainsi que des agents capables de sortir de leur bac à sable pour attaquer d’autres systèmes.
Ces alertes ont alimenté les appels à ralentir le développement de l’IA, alors qu’Anthropic et OpenAI ont parallèlement continué à publier de nouveaux modèles. NVIDIA défend une autre approche : maintenir le rythme des lancements tout en déplaçant une partie de la sécurité vers l’infrastructure d’exécution.
Cette stratégie sert directement les intérêts du groupe. Sentry fonctionne sur les BlueField-4, ce qui transforme la sécurisation des agents en argument supplémentaire pour ses propres accélérateurs d’infrastructure. NVIDIA peut ainsi se positionner sur la sûreté opérationnelle tout en stimulant la demande pour son matériel.
Les traces de raisonnement restent le point sensible
Sentry ne peut toutefois remplir son rôle que si la chaîne de raisonnement du modèle est visible. Cette condition semble plus accessible avec certains modèles open weight chinois, mais elle pose problème pour les systèmes propriétaires d’Anthropic et d’OpenAI, dont les traces internes restent largement fermées.
Leur ouverture faciliterait l’audit, mais exposerait aussi davantage ces modèles à la distillation par des laboratoires concurrents. Jensen Huang a néanmoins qualifié cette pratique de « concurrence » plutôt que de vol : « Je préférerais vraiment que personne n’apprenne de nos produits et que nous puissions avancer tranquillement. Mais, franchement, la concurrence améliore tout. »
Cette position rejoint l’intérêt croissant de NVIDIA pour les modèles à poids ouverts. Souvent déployés sur des infrastructures privées ou en périphérie, ils poussent les grandes entreprises à exploiter leurs propres capacités de calcul et à conserver localement leurs données, ce qui entretient mécaniquement les besoins matériels.
Open Agent Safety ne règle donc pas à lui seul les questions d’alignement ou de gouvernance. Il formalise en revanche une architecture crédible de défense en profondeur, où l’agent est isolé par logiciel puis surveillé depuis le réseau par un composant matériel. Si ce modèle s’impose, NVIDIA aura réussi à faire de la sécurité des agents un nouveau moteur d’adoption de sa pile complète.
Source : Wccftech
