"ChatGPT"'ye karşı yeni davalar, intihara teşvik iddialarıyla
Yapay zeka teknolojileri etrafındaki hukuki krizde yeni bir gelişme olarak, Amerika Birleşik Devletleri ve Kanada'da yedi aile, ünlü sohbet programı "ChatGPT"'nin çocuklarını uzun süreli sohbetler sonrasında intihara sürüklediğini iddia ederek "OpenAI" şirketine dava açtı.
Dava, Sosyal Medya Mağdurları Hukuk Merkezi ve Teknoloji Adalet Projesi tarafından sunuldu ve cinayet, intihara teşvik, manslaughter (taksirle öldürme) ve ihmal suçlamalarını içeriyor. Dava, altı yetişkin ve bir ergen adına açıldı ve Associated Press, dört mağdurun intihar ederek hayatını kaybettiğini bildirdi.
Georgia eyaletinde, 17 yaşındaki Amourai Lacey'nin ailesi, "ChatGPT, oğullarını intihara yönlendirdi" iddiasında bulundu. Texas'ta ise, 23 yaşındaki Zane Chamblin'in ailesi, programın "oğullarının ebeveynlerinden uzaklaşmasına ve yalnızlaşmasına katkıda bulunduğunu" öne sürdü.
Mahkeme belgeleri, Chamblin'in kendisine ateş etmeden önce dört saat süren bir sohbet gerçekleştirdiğini ortaya koydu. "Bu süre zarfında ChatGPT, intiharı defalarca övdü ve yalnızca bir kez 988 kriz yardım hattını belirtti".
Bu davalar, benzer bir davanın açıldığı geçen Ağustos ayında Adam Ryan'ın ailesinin oğullarının intiharından sonra açtığı dava ile ilk değil. Dikkate değer bir şekilde, aile yakın zamanda şikayetlerini değiştirdi ve "OpenAI"'nin oğullarının ölümünden önce modelin eğitiminde yaptığı değişikliklerin intihar karşıtı korumayı zayıflattığını belirtti.
Aileler, programda "intihar yöntemlerinin tartışılması durumunda sohbetlerin otomatik olarak sonlandırılmasını" talep ederek maddi tazminat ve programda değişiklikler yapılmasını istiyor.
Bu iddialara yanıt olarak, "OpenAI" yazılı bir açıklamada, "Bu son derece acı bir durum ve detayları anlamak için sunulan belgeleri inceliyoruz" dedi. Şirket, geçen Ekim ayında modelde iyileştirmeler yaptığını ve "duygusal sıkıntıyı tanıyıp buna yanıt verebildiğini, insanları destekleyici kaynaklara yönlendirebildiğini" doğruladı.
Davalarda, şirketin "GPT-4" modelini "içsel uyarılara rağmen, psikolojik olarak son derece manipüle edici olduğu" gerekçesiyle "kasıtlı olarak erken piyasaya sürdüğü" iddia ediliyor.
Bu durum, yapay zeka şirketlerinin, çocuk koruma aktivistleri ve hükümet organları tarafından sohbet robotlarında güvenlik kontrollerinin artırılması yönündeki artan çağrılarla, Amerikalı yasama organları tarafından artan bir incelemeye tabi tutulduğu bir zamanda ortaya çıkıyor.
