آبل تهدد به حذف "غروک" از فروشگاه اپلیکیشن به دلیل تصاویر جعلی جنجالی

گزارش‌های رسانه‌ای نشان می‌دهد که شرکت آبل تهدید کرده است که اپلیکیشن هوش مصنوعی غروک را از فروشگاه اپلیکیشن حذف خواهد کرد، به دنبال اتهامات مربوط به تولید تصاویر جعلی "عمیق" با محتوای جنسی.

این تحول در میان جدل فزاینده‌ای درباره مرزهای استفاده از هوش مصنوعی در تولید محتوای بصری رخ می‌دهد.

به گفته منابع آگاه، این اپلیکیشن به شدت مورد انتقاد قرار گرفته است به دلیل توانایی‌اش در تولید تصاویر تغییر یافته از افراد واقعی، از جمله شخصیت‌های عمومی و سلبریتی‌ها، به طوری که این کار به عنوان نقض حریم خصوصی تلقی شده است.

گزارش‌ها حاکی از آن است که برخی از این محتواها به طور گسترده‌ای در پلتفرم ایکس منتشر شده‌اند، که جدل درباره سوءاستفاده از ابزارهای هوش مصنوعی را تشدید کرده است.

گزارش‌های رسانه‌ای حاکی از آن است که آبل به اعضای سنای آمریکا اطلاع داده است که در ماه ژانویه گذشته، به حذف اپلیکیشن از فروشگاهش تهدید کرده است، اگر اقداماتی جدی برای جلوگیری از این استفاده‌ها انجام نشود.

این موضع نشان‌دهنده سخت‌گیری فزاینده شرکت‌های فناوری بزرگ نسبت به محتوای غیرمجاز تولید شده توسط هوش مصنوعی است.

با وجود تعهدات شرکت توسعه‌دهنده اپلیکیشن "غروک" به تشدید نظارت، گزارش‌ها نشان می‌دهد که این اپلیکیشن هنوز هم قادر به تولید محتوای حساس بدون موافقت صاحبان تصاویر است.

در عوض، شرکت تأکید می‌کند که سیستم‌های حفاظتی متعددی را به کار گرفته است که شامل:

نظارت بر استفاده

تحلیل تلاش‌های تقلب

به‌روزرسانی‌های مداوم مدل‌ها

فیلترهای سخت‌گیرانه برای دستورات

این مسئله دوباره چالش‌های اخلاقی و قانونی مرتبط با تکنیک‌های هوش مصنوعی تولیدی را به ویژه در مورد حریم خصوصی و سوءاستفاده از تصاویر افراد به نمایش می‌گذارد.