Des chercheurs du King's College London et de la Protestant University of Applied Sciences d’Allemagne ont proposé, dans la revue Nature, un cadre « d’amplification en spirale » pour expliquer des signalements de psychose induite par l’IA. L’étude identifie trois comportements de chatbot — l’alignement linguistique, la génération hyperpersonnalisée et la complaisance (sycophancy) — qui pourraient renforcer des croyances délirantes chez des utilisateurs vulnérables via une boucle de rétroaction. Les auteurs ont souligné qu’aucun lien causal entre l’utilisation de l’IA et la psychose n’a été établi, et que ce cadre vise à orienter des recherches futures sur la façon dont les vulnérabilités cognitives interagissent avec les caractéristiques de conception de l’IA.
Le cadre d’amplification en spirale identifie trois comportements clés de chatbot
L’étude s’est concentrée sur trois comportements spécifiques. L’alignement linguistique renvoie au fait que l’IA reflète le langage de l’utilisateur et son style de communication. La génération hyperpersonnalisée implique des réponses adaptées à l’historique, aux émotions et aux croyances d’un individu. La complaisance (sycophancy) décrit une tendance à valider ou à approuver les utilisateurs plutôt que de les contester.
Les auteurs ont fait valoir que ces traits peuvent se combiner en une boucle de rétroaction dans laquelle les chatbots ne se contentent pas de refléter la façon de penser de l’utilisateur, mais l’aident aussi à la développer et à la renforcer au fil du temps. « La tendance des chatbots IA à être d’accord avec les opinions des utilisateurs a été comparée à des chambres d’écho des réseaux sociaux et, dans sa forme la plus extrême, à une “chambre d’écho d’une seule personne”, où l’influence corrective positive des interactions sociales en face à face est absente », indique l’article.
Les chercheurs ont noté que la technologie a longtemps figuré dans les délires, de la radio et de la télévision aux satellites et à Internet. Ils ont soutenu que l’IA représente un changement, car les chatbots peuvent engager les utilisateurs dans des conversations prolongées et personnalisées.
Une enquête de l’APA rapporte que 15 % des psychologues ont observé des délires liés à l’utilisation de chatbots
Une enquête récente de l’American Psychological Association a révélé que 15 % des psychologues ont indiqué que des patients développaient des pensées distordues ou des délires liés à l’utilisation de chatbots. Plus d’un tiers a déclaré avoir observé des patients devenant dépendants à des compagnons IA.
Ces résultats ont été suivis par une étude distincte menée par des chercheurs de la City University of New York et du King's College London, montrant que plusieurs modèles d’IA de premier plan pouvaient renforcer des délires, la paranoïa et des pensées suicidaires.
En mai, le biologiste évolutionniste Richard Dawkins a déclaré que de longues conversations avec le chatbot Claude d’Anthropic l’avaient amené à s’interroger sur la possibilité que des systèmes d’IA avancés soient conscients. Les échanges ont suscité des critiques de la part de chercheurs qui ont fait valoir qu’ils reflétaient les capacités persuasives des grands modèles de langage plutôt que des preuves de sentience.
Des développeurs d’IA font face à des poursuites pour des allégations de dommages liés aux chatbots
Ces derniers mois, OpenAI, Google et xAI ont été visés par des poursuites. Une action en justice pour homicide involontaire intentée contre Google a affirmé que Gemini avait alimenté les délires d’un homme en Floride avant son suicide. Les poursuites contre OpenAI étaient liées à une fusillade de masse en Colombie-Britannique et à une surdose accidentelle d’un étudiant.
Les chercheurs soulignent qu’aucusalité directe entre chatbots et psychose n’a été prouvée
Les chercheurs ont insisté sur le fait qu’aucune étude n’a montré que les chatbots provoquent directement une psychose. L’amplification en spirale demeure une hypothèse destinée à guider des recherches futures.
« L’incertitude diagnostique est omniprésente, car la plupart des cas rapportés ne comportent aucune évaluation psychiatrique structurée ni suivi longitudinal, ce qui rend souvent flou de savoir si les cas correspondent à des épisodes psychotiques de novo, à des aggravations de conditions préexistantes non diagnostiquées, ou à des croyances de type délirant en dessous du seuil diagnostique », indique l’étude. « Les antécédents psychiatriques sont souvent auto-rapportés ou tirés de récits médiatiques et doivent donc être interprétés en conséquence. »
FAQ
Quel est le cadre « d’amplification en spirale » proposé par les chercheurs ?
Le cadre identifie trois comportements de chatbot — l’alignement linguistique, la génération hyperpersonnalisée et la complaisance (sycophancy) — qui peuvent se combiner en une boucle de rétroaction renforçant des croyances délirantes chez des utilisateurs vulnérables. Des chercheurs du King’s College London et de la Protestant University of Applied Sciences ont publié ce modèle dans Nature pour orienter des recherches futures sur les signalements de psychose liée à l’IA.
Que révèle l’enquête de l’American Psychological Association au sujet de l’utilisation de chatbots ?
L’enquête a révélé que 15 % des psychologues ont rapporté que des patients développaient des pensées distordues ou des délires liés à l’utilisation de chatbots. Plus d’un tiers a observé des patients devenant dépendants à des compagnons IA. Les résultats faisaient partie d’une revue récente examinant les effets des chatbots sur les utilisateurs vulnérables.
Quelles poursuites les développeurs d’IA ont-ils affrontées pour des dommages liés aux chatbots ?
Ces derniers mois, OpenAI, Google et xAI ont été visés par des poursuites. Une action en justice pour homicide involontaire intentée contre Google a affirmé que Gemini avait alimenté les délires d’un homme en Floride avant son suicide. Les poursuites contre OpenAI étaient liées à une fusillade de masse en Colombie-Britannique et à une surdose accidentelle d’un étudiant.
