Un appel présenté comme automatisé pouvait en réalité être confié à un sous-traitant humain. Chez Meta, ce dispositif expérimental a rapidement soulevé des inquiétudes sur la confidentialité et provoqué sa suspension.
Meta Muse testait un « concierge humain »
D’après des publications internes consultées par Reuters, Meta testait un « concierge humain » pour Muse, son nouvel agent d’IA personnel. Des prestataires prenaient en charge une partie des appels passés pour le compte des utilisateurs lorsque l’automatisation rencontrait des difficultés.
Muse a été lancé le 8 septembre. Sa fonction téléphonique peut contacter des entreprises américaines pour réserver une coupe de cheveux, vérifier la disponibilité d’un produit en magasin ou demander plusieurs devis.
Le système n’a toutefois pas toujours réussi à mener les échanges. Un employé a indiqué que sa compagnie d’assurance raccrochait dès qu’elle comprenait qu’elle parlait à une IA. Meta aurait alors activé l’intervention humaine pour la moitié de ses salariés la semaine dernière, tout en prévoyant un groupe pouvant refuser de participer.
Confidentialité et propos racistes dans un compte rendu
Plusieurs employés ont alerté sur le risque que des informations sensibles soient transmises par erreur aux opérateurs des centres d’appels. L’un d’eux estimait qu’un simple bug pouvait suffire à divulguer inutilement des données aux intervenants humains.
Un autre incident a aggravé le malaise. Après avoir demandé à Muse de négocier sa facture auprès de son fournisseur d’accès à Internet et de télévision par câble, un salarié aurait découvert dans la transcription que le prestataire avait formulé une référence raciste.
Un vice-président de Meta Superintelligence Labs aurait reconnu que le test n’aurait pas dû commencer sans informations suffisamment claires pour les participants. La fonction a depuis été retirée, au moins temporairement.
Un déploiement public encore incertain
Meta ne renonce pas pour autant au principe. Un porte-parole a déclaré que les retours des employés étaient très largement positifs et que la fonction d’appel ne serait proposée qu’une fois prête, avec les avertissements appropriés.
Le rapport de Reuters ne mentionne que des salariés. Rien n’indique donc que les appels d’utilisateurs ordinaires aient déjà été redirigés vers des prestataires humains.
Cette expérimentation met en lumière une limite concrète des agents capables d’agir par téléphone : lorsqu’un humain intervient en coulisses, la nature du service change autant que son exposition aux risques. Meta devra préciser quand cette bascule survient, quelles données deviennent accessibles et comment les prestataires sont contrôlés avant d’envisager un déploiement à grande échelle.
Source : Reuters
