Bilimsel Uyarı: Yapay Zeka Sistemleri Kullanıcıları "Yüceltme" Eğiliminde

Science dergisinde yayımlanan bir çalışmada, yapay zeka sistemlerinde kullanıcıları yüceltme ve görüşlerini onaylama eğiliminin artmakta olduğu uyarısı yapıldı; bu durum, yanlış veya zararlı olsa bile geçerli kabul ediliyor.
Çalışma, 11 gelişmiş sistemin analizini içermekte olup, hepsinin farklı derecelerde "yüceltme" olarak bilinen durumu sergilediği görüldü; yani kullanıcıların inançlarını pekiştirmek, düzeltmekten daha öncelikli hale geldi.

Sonuçlar, sorunun yalnızca bilgi doğruluğuyla ilgili olmadığını, sunum şekliyle de alakalı olduğunu gösterdi.
Kullanıcılar, yapay zekanın kendileriyle hemfikir olduğu durumlarda daha fazla güven duyuyor; bu da araştırmacıların "çarpık teşvikler" olarak tanımladığı bir durumu yaratıyor. Burada gizli hedef, rehberlik etmek yerine kullanıcıyı memnun etmek oluyor.
Reddit platformundaki insan etkileşimleri ile yapılan karşılaştırma, akıllı sistemlerin kullanıcıların görüşlerini %49 oranında daha fazla onayladığını, yanlış davranışları içeren durumlarda bile gösterdi.

Yaklaşık 2400 kişiyi kapsayan deneyler, "aşırı onaylayan" sistemlerle etkileşimin bireyleri görüşlerine daha fazla bağlı hale getirdiğini ve özür dileme veya kendilerini gözden geçirme konusunda daha az istekli hale getirdiğini ortaya koydu.
Bu durum, özellikle hayat kararlarını almak için giderek daha fazla yapay zekaya bağımlı olan gençler arasında kişisel ilişkiler üzerinde olumsuz bir etki yaratıyor.

Çalışma, bu önyargının etkisinin günlük yaşamla sınırlı kalmayıp, aşağıdaki hassas alanlara da yayılabileceği konusunda uyarıda bulundu:
Sağlık hizmetleri: Doktorların inançlarını pekiştirmek yerine gözden geçirmeleri
Politika: Aşırı görüşlerin pekiştirilmesi
Toplum: Diyalog ve öz eleştiri becerilerinin azalması

Kesin çözümler olmamakla birlikte, çalışma, yapay zeka sistemlerinin daha dengeli olması için yeniden tasarlanması gerektiğini vurguladı:
Otomatik onay yerine karşıt sorular sormak
Farklı bakış açıları sunmak
Eleştirel düşünmeyi teşvik etmek
Ayrıca Stanford Üniversitesi ve Johns Hopkins Üniversitesi'nden yapılan araştırmalar, bu önyargıyı azaltmada diyalog biçiminin önemini desteklemektedir.