Las tecnologías de inteligencia artificial se están volviendo cada vez más comunes, como la difusión estable (una tecnología de código abierto que genera imágenes basadas en mensajes de texto) y las herramientas de "intercambio de rostros" que reemplazan el rostro de una víctima en un video o foto con el de un artista porno. Se pueden crear fotografías deepfake poco realistas utilizando herramientas sencillas de edición de fotografías que existen desde hace años.

También se cree que las aplicaciones que afirman poder "desnudarse con un clic" son herramientas que pueden usarse en algunos casos y están disponibles para su descarga gratuita en las tiendas de aplicaciones. Estas fotografías modernas deepfake pueden parecer más realistas y ser más difíciles de identificar inmediatamente como falsas.

Francesca Mani, de 15 años, es estudiante de segundo año en Westfield High School en Nueva Jersey. "Me sorprendió porque las otras chicas y yo fuimos traicionados por nuestros compañeros de clase, lo que significa que le podría haber pasado a cualquiera", dijo.

Políticos y expertos legales dicen que hay pocos recursos para las víctimas de pornografía deepfake y generada por IA, que a menudo presenta los rostros de las víctimas presionados contra sus cuerpos desnudos.

Las fotografías y los vídeos pueden ser inquietantemente realistas, y la tecnología para crearlos se ha vuelto cada vez más sofisticada y accesible, según MaryAnne Franks, experta jurídica en medios explícitos no consensuales.

Un mes después del incidente en Westfield High School, Francesca y su madre, Dorota Mani, dijeron que todavía no saben la identidad o el número de personas que hicieron las imágenes, cuántas se hicieron o si todavía existen. Además, no está claro qué sanciones, si las hubo, impuso el distrito escolar.

La ciudad de Westfield ordenó a las Escuelas Públicas de Westfield que hicieran comentarios, pero la escuela se negó a hacerlo. Citando confidencialidad, el distrito escolar dijo anteriormente que "no divulgará ninguna información sobre los estudiantes acusados ​​de producir fotografías de desnudos falsos, ni las acciones disciplinarias que enfrentaron".

El superintendente Raymond González dijo al medio de comunicación que el distrito "continuará educando a los estudiantes y desarrollando pautas claras para garantizar que estas nuevas tecnologías se utilicen de manera responsable dentro y fuera de la escuela".

En un correo electrónico obtenido por NBC News, la directora de la escuela secundaria, Mary Asfendis, dijo a los padres el 20 de octubre que la escuela estaba investigando las afirmaciones de los estudiantes de que algunos de sus compañeros utilizaron inteligencia artificial para crear imágenes pornográficas a partir de fotografías sin editar.

En ese momento, los funcionarios escolares creían que las imágenes creadas habían sido eliminadas y no habían sido distribuidas, según el memorando.

"Este es un incidente muy grave", escribió Asfendis, instando a los padres a hablar sobre el uso de la tecnología con sus hijos. "Las nuevas tecnologías permiten falsificar imágenes y los estudiantes deben ser conscientes del impacto y el daño que estas acciones pueden tener en los demás".

Aunque Francesca no vio imágenes de ella ni de otros, su madre dijo que el director de Westfield le dijo que cuatro personas identificaron a Francesca como la víctima. Francesca presentó un informe policial, pero ni el Departamento de Policía de Westfield ni la fiscalía respondieron a las solicitudes de comentarios.

El senador de Nueva Jersey, Jon Bramnick, dijo que las autoridades le habían expresado su preocupación de que el incidente sólo alcanzaría el nivel de una "demanda de acoso cibernético, aunque ciertamente debería haber alcanzado el nivel de un delito más grave". "Si pones desnudos en la cara de un niño, para mí eso es pornografía infantil", dijo. El congresista republicano dijo que si bien el daño causado por imágenes reales o manipuladas puede ser el mismo, las leyes estatales actualmente no van lo suficientemente lejos para castigar a los creadores de contenido.

"Es la misma forma en que se victimiza a los traficantes sexuales de niños", dijo. "No sólo es ofensivo para los jóvenes, es difamatorio para una persona. Nunca se sabe qué va a pasar con esa foto, nunca se sabe dónde se distribuyó y cuándo volverá a atormentar a esta joven".

Bramnick dijo que un proyecto de ley pendiente en Nueva Jersey prohibiría la pornografía deepfake e impondría sanciones penales y civiles por divulgación no consensuada. Dijo que según el proyecto de ley, los declarados culpables se enfrentarían a entre tres y cinco años de prisión y/o una multa de 15.000 dólares.

Franks es profesor de derecho y presidente de CyberCivilRights Initiative, una organización sin fines de lucro que lucha contra la pornografía no consensuada.

Las leyes estatales contra los deepfakes varían ampliamente en su alcance. Algunas de estas leyes, como las de Texas y Wyoming, penalizan los deepfakes pornográficos no consensuados. Otros estados, como Nueva York, tienen leyes que sólo permiten a las víctimas presentar demandas civiles.

Franks dijo que las leyes son "diversas" y no lo suficientemente completas, y su constitucionalidad ha sido cuestionada. "Así que vamos a tener todo tipo de cargos criminales, y van a ser difíciles en estos casos porque los perpetradores son menores, lo que en sí mismo crea problemas", dijo.

Quizás sólo la punta del iceberg

No está claro cuántos jóvenes han sido víctimas de fotografías de desnudos generadas por IA. El FBI dice que es difícil contar el número de menores que son explotados sexualmente. Pero la agencia dijo que ha aumentado el número de casos abiertos relacionados con delitos contra niños. El FBI dijo a NBC News que hubo más de 4.800 casos en 2022, frente a los más de 4.100 del año anterior.

"El FBI toma en serio los crímenes contra niños y trabaja con nuestros socios estatales, locales y tribales encargados de hacer cumplir la ley para investigar los hechos de cada acusación", dijo la agencia, y agregó que las víctimas pueden enfrentar desafíos importantes al tratar de impedir la distribución de imágenes o eliminarlas de Internet.

Franks dijo que es probable que haya más incidentes y que solo aumentarán. "Los incidentes que estamos escuchando y que están surgiendo probablemente sean sólo la punta del iceberg", dijo. "Es posible que esto esté sucediendo mucho ahora y las niñas simplemente no lo hayan descubierto todavía, o lo hayan hecho, o que la escuela lo esté encubriendo". "

En la escuela secundaria Issaquah en el estado de Washington, un representante del distrito dijo que un incidente a mediados de octubre "que involucra imágenes falsas de estudiantes generadas por inteligencia artificial" continúa impactando al cuerpo estudiantil.

En la ciudad española de Almendralejo, las madres dijeron que docenas de sus hijas en edad de escuela secundaria fueron expuestas a fotografías de sus hijos desnudas generadas por IA, utilizando una aplicación que las "desnudaba". La policía local de Nueva Jersey, el estado de Washington y España están investigando los casos de las escuelas secundarias.

El FBI advirtió en un anuncio de servicio público en junio que la tecnología utilizada para crear fotos y videos pornográficos no consensuales falsificados mejora constantemente y se utiliza para acoso y sexting con fines de chantaje.

Mientras tanto, la Asociación Nacional de Fiscales Generales pidió en septiembre al Congreso que estudiara el impacto de la inteligencia artificial en los niños y promulgara legislación para proteger a los niños de la inteligencia artificial.

En una carta firmada por 54 fiscales generales estatales y territoriales, el grupo expresó su preocupación de que "la inteligencia artificial esté abriendo una nueva frontera para los abusos y dificultando los procesamientos". "Estamos en una carrera contra el tiempo para proteger a los niños de nuestra nación de los peligros de la inteligencia artificial", decía la carta.

Francesca y su madre dijeron que planean viajar a Washington, D.C., en diciembre para instar personalmente a los miembros del Congreso a tomar medidas mientras continúan abogando por políticas actualizadas dentro del sistema escolar y buscando responsabilidad por lo sucedido.

"Todos sabemos que este no es un incidente aislado. Nunca será un incidente aislado. Esto sucede todo el tiempo. Tenemos que dejar de fingir que no importa", dijo Dorota-Mani.

El aumento de los incidentes dirigidos a chicas de secundaria ha sido impulsado por una proliferación de aplicaciones de inteligencia artificial y sitios de pornografía deepfake que crean, comparten y venden dicho material.

Un informe de 2019 de Sensity, una empresa con sede en Ámsterdam que rastrea los medios generados por inteligencia artificial, encontró que el 96% de las noticias falsas creadas en ese momento eran sexualmente explícitas e incluían a mujeres que no dieron su consentimiento para su creación. Muchas víctimas desconocen la existencia de noticias deepfake. No hay nada que los padres y los niños puedan hacer para evitar que se utilicen sus imágenes para crear noticias deepfake. En cambio, las escuelas y las autoridades locales deben dar ejemplo a los perpetradores en casos que involucran al público en general para disuadir a otros de crear deepfakes.

"Si pudiera imaginarse a las escuelas de Nueva Jersey o a las autoridades de Nueva Jersey respondiendo de manera dramática y significativa para dar ejemplo y realmente endurecer las penas y encarcelar a la gente, podría sentirse disuadido", dijo Franks. "Si no se hace, se convierte en una herramienta más que los hombres y los niños utilizan para explotar y humillar a las mujeres y las niñas, y la ley básicamente no tiene nada que decir al respecto".