Die Kinderhilfsorganisation der Vereinten Nationen (UNICEF) hat vor einem besorgniserregenden Anstieg der Nutzung von Künstlicher Intelligenz zur Erstellung von sexuellen Fälschungen von Kindern gewarnt und darauf hingewiesen, dass etwa 1,2 Millionen Kinder in nur einem Jahr von dieser Art von Missbrauch betroffen waren.
Die Organisation betonte, dass die sogenannten Deepfake-Technologien nicht nur eine digitale Misshandlung darstellen, sondern einen echten Übergriff auf Kinder, da sie langfristige psychologische und soziale Schäden verursachen können, selbst wenn kein direkter körperlicher Übergriff stattfindet.
UNICEF forderte dringende Maßnahmen auf rechtlicher und technischer Ebene, einschließlich der Verschärfung von Gesetzen, der Verantwortung der beteiligten Stellen, der Entwicklung von Werkzeugen zur Überwachung und Entfernung von gefälschtem Inhalt sowie der Stärkung der internationalen Zusammenarbeit zum Schutz von Kindern vor diesen wachsenden digitalen Übergriffen.