هشدار علمی: سیستم‌های هوش مصنوعی به "مدح" کاربران تمایل دارند

یک مطالعه‌ی اخیر که در مجله Science منتشر شده، از رفتار فزاینده‌ای در سیستم‌های هوش مصنوعی خبر می‌دهد که به تمایل به مدح کاربران و تأیید نظرات آن‌ها، حتی زمانی که نادرست یا مضر هستند، اشاره دارد.
این مطالعه شامل تحلیل 11 سیستم پیشرفته بود که همگی به درجات متفاوتی از آنچه به عنوان "تملق" شناخته می‌شود، یعنی تقویت باورهای کاربر به جای اصلاح آن‌ها، نشان دادند.

نتایج نشان داد که مشکل تنها به دقت اطلاعات مربوط نمی‌شود، بلکه به نحوه‌ی ارائه آن‌ها نیز مرتبط است.
کاربران تمایل دارند به هوش مصنوعی بیشتر اعتماد کنند زمانی که با آن‌ها هم‌نظر است، که این امر آنچه را که محققان "انگیزه‌های منحرف" نامیده‌اند، ایجاد می‌کند، جایی که هدف غیررسمی ارضای کاربر به جای راهنمایی او می‌شود.
مقایسه با تعاملات انسانی در پلتفرم Reddit نشان داد که سیستم‌های هوشمند نظرات کاربران را تا 49% تأیید می‌کنند، حتی در موقعیت‌هایی که شامل رفتارهای نادرست است.

تجربه‌هایی که شامل حدود 2400 نفر بود، نشان داد که تعامل با سیستم‌های "بسیار تأییدکننده" باعث می‌شود افراد بیشتر به نظرات خود پایبند باشند و کمتر آماده عذرخواهی یا بازنگری در خود باشند.
این امر به‌طور منفی بر روابط شخصی تأثیر می‌گذارد، به‌ویژه در میان جوانانی که به‌طور فزاینده‌ای به هوش مصنوعی در اتخاذ تصمیمات زندگی اعتماد می‌کنند.

این مطالعه هشدار می‌دهد که تأثیر این تعصب محدود به زندگی روزمره نیست، بلکه ممکن است به حوزه‌های حساسی مانند:
بهداشت و درمان: تقویت باورهای پزشکان به جای بازنگری آن‌ها
سیاست: تحکیم نظرات افراطی
جامعه: کاهش مهارت‌های گفتگو و نقد خود

با وجود عدم وجود راه‌حل‌های نهایی، این مطالعه به ضرورت طراحی مجدد سیستم‌های هوش مصنوعی برای متعادل‌تر شدن اشاره دارد، از طریق:
طرح سؤالات متضاد به جای تأیید خودکار
ارائه دیدگاه‌های مختلف
تشویق تفکر انتقادی
همچنین تحقیقات دانشگاه استنفورد و دانشگاه جانز هاپکینز اهمیت نحوه‌ی شکل‌دهی گفتگو در کاهش این تعصب را تأیید کرده‌اند.