Las imágenes de abuso sexual infantil generadas por inteligencia artificial se están convirtiendo en "tu peor pesadilla" y amenazan con abrumar Internet, advirtió un organismo de control de seguridad. La Internet Watch Foundation (IWF) dijo que había descubierto casi 3.000 imágenes de abuso generadas por IA que claramente violaban la ley del Reino Unido.

La organización con sede en el Reino Unido dijo que las imágenes existentes de la vida real de víctimas de abuso se están incorporando a modelos de inteligencia artificial, que luego generan nuevas representaciones.

El grupo añadió que la tecnología también se utilizó para crear imágenes de celebridades que fueron "envejecidas" y luego representadas como niños en escenas de abuso sexual. Otros ejemplos de material de abuso sexual infantil (CSAM, por sus siglas en inglés) incluyen el uso de herramientas de inteligencia artificial para "desnudar" imágenes de niños vestidos que se encuentran en línea.

El Foro Internacional de Mujeres advirtió este verano que estaban empezando a surgir pruebas de abusos causados ​​por la IA, pero dijo que los últimos informes mostraban que el uso de la tecnología se estaba acelerando. La directora ejecutiva de la IWF, Susie Hargreaves, dijo que "la peor pesadilla del organismo de control se había hecho realidad".

"A principios de este año, advertimos que las imágenes de inteligencia artificial pronto podrían volverse indistinguibles de fotografías reales de niños que sufren abusos sexuales, y que podríamos comenzar a ver tales imágenes proliferando en mayores cantidades", dijo. "Ya hemos superado esa etapa. Es escalofriante ver cómo los delincuentes entrenan deliberadamente su IA con imágenes de víctimas reales que han sido abusadas. Los niños que han sido violados en el pasado ahora están siendo incluidos en nuevos escenarios porque alguien, en algún lugar, quiere verlos".

El Foro Internacional de Mujeres dijo que también había visto evidencia de que se vendían en línea imágenes generadas por IA. Los últimos hallazgos se basan en una investigación de un mes de duración sobre los foros de abuso infantil de la web oscura. Investigó 11.108 imágenes en el foro, 2.978 de las cuales infringían la ley del Reino Unido al representar abuso sexual infantil.

El CSAM generado por IA es ilegal según la Ley de Protección Infantil de 1978, que tipifica como delito la toma, distribución y posesión de "fotografías indecentes o pseudofotografías" de niños. El Foro Internacional de Mujeres dijo que la gran mayoría del material ilegal que encontró violaba la Ley de Protección Infantil, con más de una quinta parte de las imágenes clasificadas como Categoría A, la categoría más grave de contenido que puede representar violaciones y abusos sexuales.

La Ley de Justicia y Forenses de 2009 también tipifica como delito las imágenes no fotográficas prohibidas de niños, como caricaturas o dibujos. La IWF teme que una ola de CSAM generados por IA distraiga a las fuerzas del orden de detectar abusos reales y ayudar a las víctimas.

"Este material tiene el potencial de abrumar Internet si no controlamos esta amenaza", dijo Hargreaves.

Dan Sexton, director de tecnología de IWF, dijo que la herramienta de generación de imágenes StableDiffusion, un modelo de IA disponible públicamente que puede modificarse para ayudar a generar CSAM, fue el único producto de IA discutido en el foro.

"Estamos viendo una discusión sobre la creación de contenido usando StableDiffusion, que es un software disponible públicamente".

StabilityAI, la compañía británica detrás de StableDiffusion, dijo que "prohíbe el uso indebido de nuestra plataforma para cualquier propósito ilegal o poco ético, y nuestras políticas establecen claramente que esto incluye CSAM".

El gobierno dice que un proyecto de ley de ciberseguridad que se convertirá en ley cubrirá el CSAM generado por IA y requerirá que las empresas de redes sociales impidan que aparezca en sus plataformas.