La Organización de las Naciones Unidas para la Infancia (UNICEF) ha advertido sobre un aumento alarmante en el uso de tecnologías de inteligencia artificial para producir imágenes sexuales falsas de niños, señalando que alrededor de 1.2 millones de niños han sido expuestos a este tipo de abusos en solo un año.
La organización afirmó que lo que se conoce como técnicas de 'deepfake' no solo constituye un abuso digital, sino que representa un verdadero ataque a los niños, debido a los daños psicológicos y sociales a largo plazo que puede causar, incluso si no hay un abuso físico directo.
UNICEF pidió una acción urgente en los niveles legal y técnico, que incluya el endurecimiento de la legislación, la rendición de cuentas de los involucrados, el desarrollo de herramientas para monitorear y eliminar contenido falso, así como el fortalecimiento de la cooperación internacional para proteger a los niños de estas crecientes violaciones digitales.