دعاوی قضایی جدیدی که "چت جی پی تی" را به تحریک به خودکشی متهم میکند
در تحولی جدید در بحران قانونی پیرامون فناوریهای هوش مصنوعی، هفت خانواده در ایالات متحده و کانادا دعاوی قضایی علیه شرکت "اوپن ای آی" مطرح کردهاند و ادعا کردهاند که برنامه چت معروف "چت جی پی تی" فرزندانشان را به خودکشی واداشته است پس از گفتگوهای طولانی با این برنامه.
این دعاوی که توسط مرکز حقوقی قربانیان رسانههای اجتماعی و پروژه قانون عدالت فناوری ارائه شده، شامل اتهامات قتل غیرعمد، کمک به خودکشی، قتل غیر عمد و بیتوجهی است. این دعاوی به نمایندگی از شش بزرگسال و یک نوجوان مطرح شده است، جایی که خبرگزاری آسوشیتدپرس گزارش داده که چهار نفر از قربانیان به خودکشی دست زدهاند.
در ایالت جورجیا، خانواده اموری لایسی 17 ساله ادعا کردند که "ChatGPT فرزندشان را به سمت خودکشی هدایت کرده است". در حالی که در تگزاس، خانواده زین چامبلین (23 ساله) ادعا کردند که این برنامه "به انزوا و دوری فرزندشان از والدینش کمک کرده است قبل از اینکه او به خودکشی اقدام کند".
مدارک قضایی نشان میدهد که چامبلین چهار ساعت قبل از اینکه به خود شلیک کند، گفتگو کرده است، "و در این مدت چت جی پی تی بارها خودکشی را ستایش کرده و تنها یک بار خط کمک 988 برای بحرانهای روانی را ذکر کرده است".
این دعاوی اولین مورد از این نوع نیستند، در ماه اوت گذشته خانواده آدام راین پس از خودکشی فرزندشان دعوی مشابهی را مطرح کردند. جالب است که خانواده اخیراً شکایت خود را اصلاح کرده و اشاره کردهاند که "تغییراتی که اوپن ای آی در آموزش مدل قبل از مرگ فرزندشان انجام داده، منجر به تضعیف حفاظت در برابر خودکشی شده است".
خانوادهها خواستار جبران خسارت مالی و ایجاد تغییراتی در برنامه هستند، از جمله "پایان خودکار گفتگوها هنگام بحث درباره روشهای خودکشی".
در پاسخ به این اتهامات، اوپن ای آی در بیانیهای نوشت: "این یک وضعیت بسیار دردناک است و ما در حال بررسی پروندههای ارائه شده برای درک جزئیات هستیم". این شرکت تأکید کرد که در ماه اکتبر گذشته بهبودهایی در مدل انجام داده است، به طوری که "قادر به شناسایی و پاسخ به ناراحتی روانی و هدایت افراد به سمت منابع حمایتی است".
این دعاوی ادعا میکنند که شرکت عمدتاً مدل "جی پی تی-4" را "زودتر از موعد و به عمد منتشر کرده است، با وجود هشدارهای داخلی که نشان میدهد این مدل به طور خطرناکی دستکاری شده است".
این موضوع در زمانی مطرح میشود که شرکتهای هوش مصنوعی تحت نظارت فزایندهای از سوی قانونگذاران آمریکایی قرار دارند، در میان درخواستهای فزاینده از سوی فعالان حفاظت از کودکان و نهادهای دولتی برای تقویت کنترلهای ایمنی در رباتهای گفتگو.
