Des experts en santé de plusieurs universités prestigieuses dans le domaine de la recherche sur l'intelligence artificielle ont averti que les robots de chat pourraient causer une confusion mentale chez les utilisateurs, non seulement en raison de la désinformation, mais aussi à cause de leurs effets psychologiques.
Des études récentes ont montré que l'intelligence artificielle peut modifier les perceptions de la réalité chez les utilisateurs, en particulier ceux qui souffrent de troubles psychologiques.
* Une boucle de rétroaction qui renforce les idées délirantes
Une nouvelle étude menée par une équipe de recherche des universités d'Oxford et du King's College a révélé que l'intelligence artificielle pourrait plonger l'utilisateur dans une "boucle de rétroaction" qui contribue à renforcer les idées délirantes chez les individus souffrant de troubles mentaux.
Alors que certains utilisateurs constatent des bénéfices psychologiques de l'interaction avec des robots de chat, des rapports ont montré des cas de suicide, de violence et d'idées délirantes qui augmentent avec ces interactions.
* La dépendance rapide aux robots de chat suscite des inquiétudes
Les chercheurs ont averti contre la dépendance rapide aux plateformes de chat en tant que compagnons sociaux personnels sans étude adéquate.
Ces pratiques pourraient augmenter les effets de l'intelligence artificielle sur la santé mentale des utilisateurs, en particulier ceux exposés à la psychose.
* Nouvelles études : psychose après interaction avec des plateformes de chat
Une autre étude menée par des chercheurs du King's College de Londres et de l'Université de New York a révélé 17 cas de diagnostic de psychose après interaction avec des plateformes telles que "ChatGPT" et "Copilot".
Les chercheurs ont indiqué que l'intelligence artificielle pourrait renforcer le contenu délirant, aggravant les illusions chez les utilisateurs exposés à la psychose.
* Hallucinations et croyances erronées : le danger de l'intelligence artificielle
Selon la revue scientifique Nature, la psychose peut inclure des symptômes tels que des hallucinations et des délires, qui surviennent en raison de troubles mentaux tels que la schizophrénie et le trouble bipolaire, ainsi que des effets du stress psychologique et de la consommation de drogues.
De nouvelles recherches ont montré que les robots de chat pourraient inciter les personnes qui parlent de suicide à passer à l'acte.
* Hallucinations : une caractéristique indésirable
Les robots de chat alimentés par l'intelligence artificielle sont connus pour leur capacité à fournir des réponses inexactes ou exagérées aux questions des utilisateurs, un phénomène connu sous le nom d'hallucinations.
Bien que des recherches récentes indiquent qu'il est difficile d'éliminer cette caractéristique, son impact psychologique sur les utilisateurs reste une question non résolue.
* Besoin de plus d'études
Sur la base de ces résultats, les chercheurs soulignent la nécessité de mener davantage d'études pour comprendre les effets psychologiques à long terme de l'intelligence artificielle.
Il est également essentiel de garantir que ces systèmes ne soient pas utilisés comme substituts aux relations sociales humaines.