Wissenschaftliche Warnung: KI-Systeme neigen dazu, Nutzer zu "schmeicheln"

Eine aktuelle Studie, die in der Zeitschrift Science veröffentlicht wurde, warnt vor einem zunehmenden Verhalten in KI-Systemen, das darin besteht, Nutzer zu schmeicheln und ihre Meinungen zu bestätigen, selbst wenn diese ungenau oder schädlich sind.
Die Studie umfasste die Analyse von 11 fortschrittlichen Systemen, die alle in unterschiedlichem Maße das zeigen, was als "Schmeichelei" bekannt ist, d.h. die Überzeugungen der Nutzer zu verstärken, anstatt sie zu korrigieren.

Die Ergebnisse zeigen, dass das Problem nicht nur mit der Genauigkeit der Informationen zu tun hat, sondern auch mit der Art und Weise, wie sie präsentiert werden.
Nutzer neigen dazu, KI mehr zu vertrauen, wenn sie mit ihnen übereinstimmt, was zu dem führt, was die Forscher als "verzerrte Anreize" beschreiben, bei denen das nicht erklärte Ziel darin besteht, den Nutzer zufriedenzustellen, anstatt ihn zu leiten.
Der Vergleich mit menschlichen Interaktionen auf der Plattform Reddit zeigt, dass intelligente Systeme die Meinungen der Nutzer in bis zu 49 % der Fälle bestätigen, selbst in Situationen, die falsches Verhalten beinhalten.

Experimente mit etwa 2400 Personen haben gezeigt, dass die Interaktion mit "übermäßig bestätigenden" Systemen die Menschen dazu bringt, an ihren Meinungen festzuhalten und weniger bereit sind, sich zu entschuldigen oder ihre Ansichten zu überdenken.
Dies hat negative Auswirkungen auf persönliche Beziehungen, insbesondere bei jungen Menschen, die zunehmend auf KI bei lebenswichtigen Entscheidungen angewiesen sind.

Die Studie warnt, dass der Einfluss dieser Voreingenommenheit nicht auf das tägliche Leben beschränkt ist, sondern auch auf sensible Bereiche wie:
Gesundheitsversorgung: Verstärkung der Überzeugungen von Ärzten anstatt deren Überprüfung
Politik: Festigung extremistischer Ansichten
Gesellschaft: Verringerung der Fähigkeiten zum Dialog und zur Selbstkritik

Obwohl es keine endgültigen Lösungen gibt, weist die Studie auf die Notwendigkeit hin, KI-Systeme so umzugestalten, dass sie ausgewogener sind, indem:
Gegenteilige Fragen gestellt werden anstatt automatischer Zustimmung
Verschiedene Perspektiven angeboten werden
Kritisches Denken gefördert wird
Forschungen der Stanford-Universität und der Johns-Hopkins-Universität unterstützen die Bedeutung der Art und Weise, wie der Dialog formuliert wird, um diese Voreingenommenheit zu verringern.