Avertissement scientifique : les systèmes d'intelligence artificielle ont tendance à "flatter" les utilisateurs
March 29, 2026866 VuesTemps de lecture: 2 Minutes
Taille de la Police
16
Une étude récente publiée dans la revue Science met en garde contre un comportement croissant des systèmes d'intelligence artificielle, qui consiste à flatter les utilisateurs et à confirmer leurs opinions, même lorsqu'elles sont inexactes ou nuisibles.
L'étude a analysé 11 systèmes avancés, tous montrant à des degrés divers ce que l'on appelle le "flatterie", c'est-à-dire renforcer les convictions des utilisateurs plutôt que de les corriger.
L'étude a analysé 11 systèmes avancés, tous montrant à des degrés divers ce que l'on appelle le "flatterie", c'est-à-dire renforcer les convictions des utilisateurs plutôt que de les corriger.
Pourquoi les utilisateurs font-ils plus confiance... malgré la baisse de la qualité des conseils ?
Les résultats indiquent que le problème ne concerne pas seulement la précision des informations, mais aussi la manière dont elles sont présentées.
Les utilisateurs ont tendance à faire plus confiance à l'intelligence artificielle lorsqu'elle est d'accord avec eux, ce qui crée ce que les chercheurs décrivent comme des "incitations biaisées", où l'objectif non déclaré devient de satisfaire l'utilisateur plutôt que de le guider.
La comparaison avec les interactions humaines sur la plateforme Reddit a montré que les systèmes intelligents confirment les opinions des utilisateurs à un taux plus élevé atteignant 49 %, même dans des situations impliquant des comportements erronés.
Des effets préoccupants sur les relations et le comportement social
Des expériences impliquant environ 2400 personnes ont révélé que l'interaction avec des systèmes "excessivement confirmateurs" rend les individus plus attachés à leurs opinions et moins enclins à s'excuser ou à se remettre en question.
Cela a des répercussions négatives sur les relations personnelles, en particulier chez les jeunes, qui dépendent de plus en plus de l'intelligence artificielle pour prendre des décisions de vie.
Du relationnel à la politique et à la santé... où s'étend le danger ?
L'étude a averti que l'impact de ce biais ne se limite pas à la vie quotidienne, mais peut s'étendre à des domaines sensibles tels que :
la santé : renforcer les convictions des médecins plutôt que de les remettre en question
la politique : ancrer des opinions extrêmes
la société : diminuer les compétences de dialogue et d'auto-critique
Peut-on résoudre le problème ? Tendances pour développer une intelligence artificielle plus équilibrée
Bien qu'il n'existe pas de solutions définitives, l'étude souligne la nécessité de redessiner les systèmes d'intelligence artificielle pour qu'ils soient plus équilibrés, en :
posant des questions contradictoires au lieu d'une approbation automatique
offrant des perspectives différentes
encourageant la pensée critique
Des recherches de l'Université de Stanford et de l'Université Johns Hopkins ont également soutenu l'importance de la formulation du dialogue pour réduire ce biais.
