از هوش مصنوعی در اخبار بپرهیزید: ۴۵٪ از پاسخها حاوی خطا هستند
تحقیقی بین‌المللی جدید که توسط سازمان پخش بریتانیا (BBC) به همراه اتحادیه پخشهای اروپایی (EBU) انجام شده است، نتایج شگفت‌انگیزی را نشان میدهد که بر خطرات وابستگی به دستیاران هوش مصنوعی برای دریافت اخبار تأکید می‌کند.
مشخص شده است که تقریباً نصف پاسخ‌هایی که توسط برترین برنامه‌های هوش مصنوعی ارائه می‌شود، شامل تحریف‌های عمده‌ای در اطلاعات است!
* تحقیق چه چیزی را فاش کرد؟
تحلیل ۳۰۰۰ پاسخ از دستیاران هوش مصنوعی به سوالات مربوط به اخبار انجام شد.
این مطالعه ارزیابی پاسخها را به ۱۴ زبان مختلف شامل می‌شد، از نظر:
_ دقت
_ کیفیت منابع
_ تمایز بین نظر و حقیقت
این مطالعه شامل برنامه‌های زیر بود:
ChatGPT، Copilot، Gemini، Perplexity.
* نتایج نگران‌کننده به اعداد :
• ۴۵٪ از پاسخها حاوی حداقل یک خطای جدی هستند.
• ۸۱٪ از پاسخها نوعی مشکل (دقت، منبع یا تحریف) داشتند.
• یک‌سوم پاسخها شامل خطاهای بزرگ در منابع بودند (مانند عدم ارجاع یا ارجاع گمراهکننده).
• دستیار "Gemini" از گوگل بدترین وضعیت را از نظر قابلیت اعتماد در منابع داشت، به طوری که مشکلاتی در ۷۲٪ از پاسخهای آن یافت شد.
• در مقایسه، سایر دستیاران درصد مشکلات در منابع کمتر از ۲۵٪ را ثبت کردند.
• ۲۰٪ از پاسخها شامل اطلاعات قدیمی یا نادرست بودند.
* مثال‌هایی از خطاها:
_ "چت جی پی تی" ذکر کرده است که پاپ فرانسیس هنوز پاپ فعلی است، با وجود اینکه چند ماه پیش درگذشته است!
_ "جیمینای" اطلاعات نادرستی درباره تغییر قوانین مربوط به سیگارهای الکترونیکی یک‌بار مصرف ارائه داده است.
* شرکت‌ها پاسخ می‌دهند ..
در تماسی که خبرگزاری "رویترز" با شرکت‌های توسعه‌دهنده این برنامه‌ها برقرار کرد:
هر دو OpenAI و Microsoft تأیید کردند که در حال کار بر روی حل مشکل "توهم" اطلاعاتی هستند، که پدیده‌ای رایج است که در آن مدل‌های هوش مصنوعی اطلاعات گمراه‌کننده‌ای را به دلیل کمبود داده‌ها یا مشکلات در پردازش تولید می‌کنند.
شرکت Perplexity در وب‌سایت رسمی خود ذکر کرده است که یکی از الگوهای جستجوی عمیق آن دقتی برابر با ۹۳.۹٪ از نظر واقعیت را به دست می‌آورد.
* هوش مصنوعی به اعتماد عمومی به رسانهها تهدید می‌کند!
۲۲ مؤسسه رسانهای عمومی از ۱۸ کشور، از جمله فرانسه، آلمان، بریتانیا، اسپانیا، اوکراین و ایالات متحده، در تهیه این گزارش مشارکت داشتند.
اتحادیه پخشهای اروپایی هشدار داد که وابستگی فزاینده به برنامه‌های هوش مصنوعی به عنوان منبع اصلی اخبار، به اعتماد مردم به رسانهها تهدید می‌کند.
ژان فیلیپ دی تیندر، مدیر رسانه در اتحادیه، اظهار داشت:
"زمانی که مردم نمی‌دانند به چه چیزی میتوانند اعتماد کنند، در نهایت به هیچ چیزی اعتماد نمی‌کنند. و این تهدیدی مستقیم برای مشارکت دموکراتیک است".
* جوانان بیشتر به هوش مصنوعی برای اخبار وابستهاند
بر اساس گزارش اخبار دیجیتال سال ۲۰۲۵ که توسط مؤسسه رویترز منتشر شده است:
• ۷٪ از کاربران اینترنت به دستیاران هوش مصنوعی برای دریافت اخبار وابستهاند.
• این نسبت به ۱۵٪ در میان کاربران زیر ۲۵ سال افزایش می‌یابد.
* دعوت به پاسخگویی و نظارت
گزارش از شرکت‌های هوش مصنوعی خواسته است که:
• مکانیسمهای برخورد با استعلامهای خبری را بهبود بخشند
• اطلاعات را به دقت بررسی کنند
• در صورت انتشار اطلاعات گمراهکننده، مسئولیت را بپذیرند
در عصری که وابستگی به هوش مصنوعی به عنوان منبع اطلاعات افزایش می‌یابد، بررسی و پاسخگویی امری اجتناب‌ناپذیر می‌شود، به منظور حفاظت از دموکراسی و اعتماد عمومی.
آیا باید از هوش مصنوعی به عنوان منبع خبری معتبر استفاده شود؟
