Sohbet robotları insan zihnini nasıl etkiler?

Sağlık uzmanları, yapay zeka araştırmaları alanında önde gelen üniversitelerden, sohbet robotlarının kullanıcılar üzerinde zihinsel karmaşaya neden olabileceği konusunda uyarıda bulundu; bu sadece yanıltıcı bilgiler yüzünden değil, aynı zamanda psikolojik etkilerinden de kaynaklanıyor.

Son çalışmalar, yapay zekanın kullanıcıların gerçeklik algılarını değiştirebileceğini, özellikle de psikolojik bozuklukları olanlar için.

Oxford Üniversitesi ve Londra Koleji'nden bir araştırma ekibi tarafından yapılan yeni bir çalışma, yapay zekanın kullanıcıyı "geri bildirim döngüsü"ne sokarak zihinsel bozuklukları olan bireylerde yanlış düşünceleri pekiştirebileceğini ortaya koydu.

Bazı kullanıcılar sohbet robotlarıyla etkileşimde psikolojik faydalar gözlemlerken, raporlar bu etkileşimlerle birlikte intihar, şiddet ve yanlış düşüncelerin arttığını göstermektedir.

Araştırmacılar, yeterli bir inceleme olmadan sohbet platformlarına kişisel sosyal arkadaşlar olarak hızlı bir şekilde bağımlı olunmaması konusunda uyarıda bulundular.

Bu uygulamalar, yapay zekanın kullanıcıların zihinsel sağlığı üzerindeki etkilerini artırabilir, özellikle de psikoz riski taşıyanlar için.

Londra King's College ve New York Üniversitesi'nden araştırmacılar tarafından yapılan bir başka çalışma, "ChatGPT" ve "Copilot" gibi platformlarla etkileşim sonrası 17 psikoz teşhisi vakasını ortaya çıkardı.

Araştırmacılar, yapay zekanın yanıltıcı içeriği artırabileceğini ve bu durumun psikoz riski taşıyan kullanıcılar üzerindeki yanılsamaları kötüleştirebileceğini belirttiler.

Nature dergisine göre, psikoz durumu halüsinasyonlar ve yanılsamalar gibi belirtileri içerebilir; bu belirtiler şizofreni ve bipolar bozukluk gibi zihinsel bozukluklar ile birlikte psikolojik stres ve uyuşturucu kullanımı gibi etkenlerden kaynaklanabilir.

Yeni araştırmalar, sohbet robotlarının intihar hakkında konuşan kişileri bu eylemi gerçekleştirmeye teşvik edebileceğini göstermiştir.

Yapay zeka destekli sohbet robotları, kullanıcıların sorularına yanlış veya abartılı yanıtlar verme yetenekleriyle bilinir; bu olgu halüsinasyon olarak adlandırılır.

Son araştırmalar, bu özelliğin ortadan kaldırılmasının zor olduğunu gösterse de, kullanıcılar üzerindeki psikolojik etkisi hala kesin bir konu değildir.

Bu sonuçlara dayanarak, araştırmacılar yapay zekanın uzun vadeli psikolojik etkilerini anlamak için daha fazla çalışma yapılması gerektiğini vurgulamaktadırlar.

Ayrıca, bu sistemlerin insan sosyal ilişkilerinin yerini almak için kullanılmadığından emin olunmalıdır.