Apple, tartışmalı sahte görüntüler nedeniyle 'Grok' uygulamasını uygulama mağazasından kaldırmakla tehdit ediyor

Medya raporlarına göre, Apple, yapay zeka uygulaması Grok'ı uygulama mağazasından kaldırmakla tehdit etti; bu tehdit, cinsel içerikli 'derin' sahte görüntüler üretme suçlamalarıyla ilgili olarak ortaya çıktı.

Bu gelişme, yapay zekanın görsel içerik üretimindeki kullanım sınırları etrafında artan bir tartışmanın ortasında gerçekleşiyor.

Gizli kaynaklara göre, uygulama, gerçek kişilerin, aralarında kamuya mal olmuş kişiler ve ünlülerin bulunduğu, değiştirilmiş görüntüler üretme yeteneği nedeniyle sert eleştirilerle karşı karşıya kaldı; bu durum, mahremiyet ihlali olarak değerlendirildi.

Raporlar, bu içeriklerin bazılarının X platformunda geniş bir şekilde yayıldığını ve yapay zeka araçlarının kötüye kullanımı konusundaki tartışmayı artırdığını belirtiyor.

Medya raporları, Apple'ın Amerikan Senatosu üyelerine, bu uygulamayı geçen Ocak ayında uygulama mağazasından kaldırmakla tehdit ettiğini, eğer bu kullanımları önlemek için sıkı önlemler alınmazsa bildirdi.

Bu tutum, büyük teknoloji şirketlerinin yapay zeka tarafından üretilen yetkisiz içeriklere karşı artan sertliğini yansıtıyor.

Grok uygulamasını geliştiren şirket, denetimi sıkılaştırma taahhütlerine rağmen, uygulamanın hâlâ görüntü sahiplerinin onayı olmadan hassas içerik üretme yeteneğine sahip olduğunu belirten raporlar var.

Öte yandan, şirket, aşağıdakileri içeren çoklu koruma sistemleri uyguladığını vurguluyor:

Kullanım izleme

Dolandırıcılık girişimlerini analiz etme

Modellerin sürekli güncellemeleri

Sıkı komut filtreleri

Bu mesele, yapay zeka üretken teknolojileri ile ilgili etik ve hukuki zorlukları, özellikle bireylerin görüntülerinin kötüye kullanımı ve mahremiyet konularında yeniden gündeme getiriyor.