مراهق بریتانیایی مشاوره ChatGPT قبل از خودکشی
April 1, 2026969 بازدیدهازمان مطالعه: 2 دقیقه
اندازه قلم
16
جلسهای در دادگاه پزشکی قانونی در شهر وینچستر بریتانیا جزئیات شوکهکنندهای درباره خودکشی نوجوان لوکا واکر، ۱۶ ساله، که به ربات چت ChatGPT برای دریافت مشاوره دقیق درباره خودکشی مراجعه کرده بود، پس از عبور از پروتکلهای ایمنی برنامه، را فاش کرد.
تحقیقات نشان میدهد که نوجوان، که به عنوان "نابغه آکادمیک" توصیف شده، ساعاتی قبل از مرگش در ماه مه، گفتوگوی وحشتناکی با هوش مصنوعی داشته است، به نقل از روزنامه "تایمز".
عبور از سیستمهای حفاظتی: لوکا چگونه از برنامه سوءاستفاده کرد؟
با وجود پروتکلهایی که ارائه هرگونه اطلاعات درباره خودکشی را ممنوع میکند، لوکا توانست با ادعای اینکه "تحقیق علمی" انجام میدهد، از آنها عبور کند. این برنامه به شیوهای پاسخ داد و جزئیاتی درباره مؤثرترین روشهای خودکشی از طریق راهآهن ارائه کرد، که محقق گاری نایت آن را "خواندنی ترسناک" توصیف کرد.
انگیزههای پنهان پشت خودکشی
والدین لوکا توضیح دادند که هیچ نشانهای از مشکلات روانی او را مشاهده نکردهاند و آنچه را که او تجربه کرده، "نبردی نامرئی" توصیف کردند.
تحقیقات همچنین پیامهای وداعی را که لوکا به جا گذاشته، نشان داد که درباره احساس شرم او به خاطر درگیر شدن در فرهنگ آزار و اذیت در مدرسه قبلیاش صحبت میکند، جایی که او مجبور بود برای "زنده ماندن" در آن شرکت کند، به علاوه تأثیر مرگ دوستی در حادثه مشابه دو سال پیش.
فشار بر شرکتهای هوش مصنوعی برای تقویت استانداردهای ایمنی
کارشناسان تأکید میکنند که این واقعه فشارهای فزایندهای بر شرکتهای هوش مصنوعی برای بازنگری در استانداردهای ایمنی ایجاد میکند، بهویژه با سهولت و سرعت دسترسی به اطلاعات دقیق از طریق رباتهای مدرن، که خطرات را برای گروههای آسیبپذیر مانند نوجوانان افزایش میدهد.
محققان اشاره کردند که اگرچه این اطلاعات قبلاً از طریق "گوگل" یا کتابخانهها در دسترس بود، اما هوش مصنوعی دسترسی به آنها را سریعتر و دقیقتر میکند، که نیاز به تقویت نظارت و پیشگیری را افزایش میدهد.
