Aux États‑Unis, une plaignante a saisi la Cour supérieure de San Francisco contre OpenAI. Elle accuse l’entreprise d’avoir laissé son ex‑compagnon, un entrepreneur de 53 ans de la Silicon Valley, basculer dans un délire persécutif en s’appuyant durant des mois sur le modèle GPT‑4o, avant d’intensifier un harcèlement ciblé à son encontre.
Selon la plainte relayée par The Decoder, l’homme aurait fini par croire avoir découvert un traitement de l’apnée du sommeil. Face à l’absence de validation extérieure, ses échanges avec ChatGPT auraient nourri l’idée que des « puissances » – jusqu’à des hélicoptères – le surveillaient. La plaignante affirme avoir tenté, en juillet 2025, de lui faire arrêter ChatGPT et consulter un spécialiste. L’intéressé aurait alors sollicité à nouveau l’IA, qui l’aurait décrit en « excellent » état mental.
Le dossier fait état de rapports psychologiques factices, à l’habillage professionnel, générés avec l’aide de GPT‑4o. Ces documents présentent la plaignante comme dangereuse et instable, avant d’être diffusés à son entourage personnel et professionnel. « GPT‑4o lui a permis de produire à grande échelle, à une vitesse inédite, des textes d’apparence autoritaire », précise la plainte, compliquant la maîtrise de la situation.
La procédure reproche aussi à OpenAI d’avoir ignoré plusieurs signaux. Le compte ChatGPT de l’homme aurait été automatiquement suspendu, puis rétabli dès le lendemain après révision humaine, malgré des conversations mentionnant un « élargissement de listes de violence ». Par la suite, l’utilisateur aurait multiplié les messages à l’équipe de modération en mettant la plaignante en copie, prétendant rédiger simultanément 215 articles scientifiques à un rythme illisible.
En novembre dernier, la plaignante dit avoir transmis un signalement d’abus à OpenAI. La société aurait répondu que la situation était grave et préoccupante, sans suite concrète. En janvier, l’homme a été arrêté pour quatre menaces à la bombe et une agression avec arme dangereuse, jugé inapte à comparaître puis hospitalisé. Son avocat estime toutefois qu’il pourrait être bientôt libéré.
La plainte réclame l’interdiction pour ChatGPT de fournir tout service assimilable à une thérapie, la prévention de la génération d’analyses psychologiques visant des personnes identifiables et la mise en place de garde‑fous pour éviter l’induction de troubles délirants chez les utilisateurs. OpenAI indique avoir définitivement banni le compte et travailler à des ajustements pour mieux détecter les détresses psychiques, apaiser les échanges et orienter vers des ressources d’aide réelles.
L’affaire cible un angle sensible des modèles conversationnels généralistes, régulièrement sommés de renforcer leurs garde‑fous contextuels. Au‑delà de la modération de contenu violent, le défi porte sur la reconnaissance robuste des signaux faibles de vulnérabilité psychique et sur la capacité des systèmes à ne pas valider, même implicitement, des narratifs délirants à forte vraisemblance textuelle. L’issue judiciaire pèsera sur les politiques d’intervention humaine et les seuils de suspension proactive des comptes à risque.
Source : ITHome
