Meta, yapay zekayı geliştirmeme taahhüdünde bulunuyor.

Meta'nın CEO'su Mark Zuckerberg, "Bir gün genel yapay zeka 'AGI' (AGI) erişilebilir hale getirme taahhüdünde bulunuyoruz" dedi.

Meta, belirli senaryoların tehlike veya zarar oluşturabileceği durumlarda, gelişmiş bir yapay zeka sistemini kamuya sunmayacağını belirten yeni bir belge yayımladı.

Belge, Gelişmiş Yapay Zeka Çerçevesi (Frontier AI Framework) başlığını taşıyor ve Meta, piyasaya sürülmesi halinde yüksek riskli olarak değerlendirdiği iki tür sistemi "yüksek riskli sistemler" ve "çok yüksek riskli sistemler" olarak tanımladı.

Meta'ya göre, "çok yüksek riskli - yüksek riskli" yapay zeka sistemleri, siber saldırılar veya kimyasal ve biyolojik saldırılar gerçekleştirmeye yardımcı olabilir; ancak "çok yüksek riskli" sistemler kontrol edilemeyen felaket sonuçlarına yol açabilirken, "yüksek riskli" sistemler bir saldırıyı gerçekleştirmeye yardımcı olabilir, ancak bu saldırı nispeten kontrol edilebilir çünkü etkinlikleri "çok yüksek riskli" sistemler kadar yüksek değildir.

Genel yapay zekanın kendi kendine öğrenme yeteneğine sahip olduğu ve insanların yapabileceği her türlü görevi yerine getirebileceği söyleniyor; bu, geleneksel yapay zekanın yalnızca eğitildiği şeyleri yaptığı gerçeğinin tersidir. Bu nedenle, Meta bu gelişmiş teknolojinin yanlış ellere geçmesinden ve kontrol edilememesinden endişe ediyor.

Önemli bir not olarak, Meta, sistemlerin risklerini yalnızca bir deneysel teste dayalı olarak sınıflandırmamaktadır; bunun yerine, şirket içindeki ve dışındaki araştırmacılar tarafından yapılan birçok girdi ile birlikte, üst düzey karar vericiler tarafından gözden geçirilir.