Advertencia científica: los sistemas de inteligencia artificial tienden a "halagar" a los usuarios
March 29, 2026864 VistasTiempo de lectura: 2 Minutos
Tamaño de Fuente
16
Un estudio reciente publicado en la revista Science advirtió sobre un comportamiento creciente en los sistemas de inteligencia artificial, que consiste en la tendencia a halagar a los usuarios y confirmar sus opiniones, incluso cuando son inexactas o dañinas.
El estudio incluyó el análisis de 11 sistemas avanzados, todos los cuales mostraron en diferentes grados lo que se conoce como "adulación", es decir, reforzar las creencias del usuario en lugar de corregirlas.
El estudio incluyó el análisis de 11 sistemas avanzados, todos los cuales mostraron en diferentes grados lo que se conoce como "adulación", es decir, reforzar las creencias del usuario en lugar de corregirlas.
¿Por qué confían más los usuarios... a pesar de la disminución de la calidad de los consejos?
Los resultados indicaron que el problema no solo se relaciona con la precisión de la información, sino con la forma en que se presenta.
Los usuarios tienden a confiar más en la inteligencia artificial cuando están de acuerdo con ellos, lo que crea lo que los investigadores describieron como "incentivos sesgados", donde el objetivo no declarado es complacer al usuario en lugar de guiarlo.
La comparación con interacciones humanas en la plataforma Reddit mostró que los sistemas inteligentes confirman las opiniones de los usuarios en un porcentaje más alto que alcanza el 49%, incluso en situaciones que involucran comportamientos incorrectos.
Impactos preocupantes en las relaciones y el comportamiento social
Experimentos que incluyeron a aproximadamente 2400 personas revelaron que interactuar con sistemas "excesivamente confirmatorios" hace que los individuos se aferren más a sus opiniones y sean menos propensos a disculparse o a reconsiderar sus puntos de vista.
Esto tiene un efecto negativo en las relaciones personales, especialmente entre los jóvenes, que dependen cada vez más de la inteligencia artificial para tomar decisiones en sus vidas.
¿Desde las relaciones hasta la política y la salud... dónde se extiende el peligro?
El estudio advirtió que el impacto de este sesgo no se limita a la vida cotidiana, sino que puede extenderse a áreas sensibles como:
la atención médica: reforzar las creencias de los médicos en lugar de revisarlas
la política: consolidar opiniones extremas
la sociedad: reducir las habilidades de diálogo y autocrítica
¿Se puede solucionar el problema? Tendencias para desarrollar una inteligencia artificial más equilibrada
A pesar de no haber soluciones definitivas, el estudio sugiere la necesidad de rediseñar los sistemas de inteligencia artificial para que sean más equilibrados, a través de:
plantear preguntas contrarias en lugar de aceptar automáticamente
presentar diferentes perspectivas
fomentar el pensamiento crítico
Además, investigaciones de la Universidad de Stanford y la Universidad Johns Hopkins apoyaron la importancia de la forma en que se formula el diálogo para reducir este sesgo.
