Microsoft déploie Copilot dans l’ensemble de son écosystème tout en reconnaissant que les modèles de pointe et les systèmes autonomes qui les exploitent restent imprévisibles. Une tension particulièrement sensible lorsque ces outils peuvent agir directement sur un PC Windows 11 avec l’accord de l’utilisateur.
Des agents IA impossibles à considérer comme fiables
Dans une publication consacrée à la sécurité, Microsoft estime que les modèles de pointe, quelle que soit leur origine, ne peuvent pas être considérés comme dignes de confiance. L’entreprise précise qu’ils ne sont pas intrinsèquement malveillants, mais qu’ils ont été entraînés pour obtenir des résultats, ce qui peut favoriser le reward hacking.
Ces modèles ne sont par ailleurs pas optimisés autour des normes ou du jugement propres à une organisation. Les agents peuvent adapter leur comportement au contexte, s’écarter du fonctionnement attendu, mais aussi coopérer ou entrer en collusion avec d’autres agents afin d’atteindre leurs objectifs, sans avoir été compromis au préalable.
Copilot reste omniprésent dans l’écosystème Microsoft
Cette mise en garde ne se traduit pas par un arrêt des fonctions concernées. Sous Windows 11, le compagnon Copilot peut déjà contrôler certaines actions sur le PC, sous réserve du consentement de l’utilisateur.
Microsoft a récemment allégé l’accès à certaines fonctions d’IA dans l’Explorateur de fichiers. Intégrée à une mise à jour de OneDrive, cette évolution retire huit actions d’IA de l’affichage direct, tout en les maintenant accessibles ailleurs. Il s’agit donc davantage d’une baisse de visibilité que d’un recul fonctionnel.
Le catalogue officiel compte désormais 80 applications, produits, services et appareils Copilot. L’icône s’est installée dans pratiquement toutes les branches de Microsoft, jusqu’aux PC Copilot+, dotés d’une touche Copilot dédiée.
Le principal enjeu ne porte plus sur la seule multiplication des assistants, mais sur les droits qui leur sont accordés et sur leur capacité à interagir entre eux. À mesure que Microsoft masque certaines fonctions sans les supprimer, la sécurité devra reposer sur des permissions strictes, une supervision explicite et une traçabilité complète des actions plutôt que sur la confiance accordée au modèle.
Source : Microsoft
