Los abusos cometidos mediante deepfake siguen siendo abusos
UNICEF.
Declaración de UNICEF acerca de las imágenes sexualizadas de niños y niñas generadas por IA.
“UNICEF manifiesta su profunda preocupación ante las constataciones del rápido aumento del volumen de imágenes sexualizadas generadas por IA que circulan por la red, incluidas fotografías de niños y niñas manipuladas y sexualizadas.
Los deepfakes –imágenes, vídeos o grabaciones de voz generados o manipulados por inteligencia artificial (IA) con apariencia de realidad– se están utilizando cada vez más para crear contenido sexualizado de niños y niñas, incluida la ‘nudificación’, que se refiere al uso de las herramientas de IA para retirar o modificar la ropa en fotografías con el fin de crear imágenes sexualizadas o desnudos falsos.
Nuevas pruebas confirman la magnitud de este problema, que no deja de agravarse: en un estudio llevado a cabo por UNICEF, ECPAT e INTERPOL en 11 países, al menos 1,2 millones de niños y niñas* revelaron haberse visto afectados en el último año por la manipulación de sus imágenes mediante deepfakes con contenido sexual explícito. En algunos países, esa cifra representa 1 de cada 25 niños y niñas, lo que equivaldría a un niño o una niña de un aula escolar estándar.
Los propios niños y niñas son muy conscientes de este peligro. En algunos de los países del estudio, hasta dos terceras partes de los niños y niñas afirmaron estar preocupados por que se pudiera emplear la IA para falsificar imágenes o vídeos suyos con carácter sexual. Los niveles de preocupación varían ampliamente entre países, lo cual subraya la urgente necesidad de aumentar la concienciación y las medidas de prevención y protección.
Debemos ser claros: las imágenes sexualizadas de menores creadas o manipuladas por herramientas de IA constituyen imágenes de abusos sexuales de niños y niñas. Los abusos cometidos mediante deepfake siguen siendo abusos y, aunque las imágenes sean falsas, el daño que causan es absolutamente real.
Utilizar la imagen o la identidad de un niño o una niña lo convierte directamente en víctima. Pero incluso si no existe una víctima identificable, un material generado por IA que muestre abusos sexuales de niños y niñas normaliza la explotación sexual infantil, impulsa la demanda de contenidos abusivos y plantea importantes obstáculos a las fuerzas del orden a la hora de identificar y proteger a los niños y niñas que necesitan ayuda.
UNICEF reconoce positivamente los esfuerzos de los desarrolladores de IA que están aplicando enfoques de seguridad desde el diseño, así como medidas sólidas de salvaguardia para evitar el uso indebido de sus sistemas. Sin embargo, el panorama sigue siendo desigual y existen demasiados modelos de IA que no se están desarrollando con las salvaguardias adecuadas. Los riesgos pueden agravarse cuando las herramientas de IA generativa se integran directamente en las plataformas de redes sociales, donde las imágenes manipuladas pueden difundirse con rapidez.
UNICEF hace un llamamiento urgente para que se tomen las siguientes medidas con el fin de hacer frente a la creciente amenaza de las imágenes que muestran abusos sexuales de niños y niñas:
- Todos los gobiernos deben ampliar las definiciones de lo que constituyen imágenes de abusos sexuales de niños y niñas para incluir el contenido generado por IA, así como penalizar su creación, adquisición, posesión y distribución.
- Los desarrolladores de IA deben aplicar enfoques de seguridad desde el diseño y medidas sólidas de salvaguardia para evitar el uso indebido de los modelos de IA.
- Las empresas digitales deben evitar la circulación de imágenes de abusos sexuales de niños y niñas –en lugar de limitarse a eliminarlas una vez se han difundido–, así como reforzar la moderación de contenidos a través de inversiones en tecnologías de detección, de manera que esos materiales puedan retirarse de inmediato y no días después de una denuncia por parte de una víctima o su representante.
El daño que provoca el abuso mediante deepfake es real y requiere una acción inmediata. Los niños y niñas no pueden estar esperando a que la legislación se actualice”.
Sitio Fuente: UNICEF