Meta está demandando a una empresa que promovió una aplicación de inteligencia artificial generativa en su plataforma de redes sociales que permitía a los usuarios crear fotografías falsas de los cuerpos desnudos de otras personas sin su consentimiento. Previamente,Noticias CBSUno publicado la semana pasada.investigaciónSegún el informe, se encontraron cientos de anuncios de estas aplicaciones de striptease digital en las plataformas Facebook, Messenger, Instagram y Threads de Meta. esta vezLa acusación se presentó contra Joy Timeline.
"Esta acción legal subraya la seriedad con la que tomamos este tipo de abuso y nuestro compromiso de hacer todo lo posible para proteger a nuestra comunidad", dijo Meta. "Continuaremos tomando las medidas necesarias, incluidas acciones legales, para combatir este tipo de abuso de nuestra plataforma".
La demanda de Meta busca específicamente evitar que Joy Timeline, con sede en Hong Kong, incluya anuncios de la aplicación de desnudos CrushAI en su plataforma de redes sociales después de que la compañía "intentó repetidamente... eludir el proceso de revisión de anuncios de Meta".
La acción legal llega inmediatamente después de una reciente investigación de CBS News que encontró cientos de anuncios de aplicaciones de desnudos falsas en la plataforma Meta. Meta le dijo a CBS en ese momento que había eliminado algunos de estos anuncios, eliminado las cuentas que los ejecutaban y bloqueado las URL asociadas con estas aplicaciones de desnudos profundos. Pero Meta dice que hacer cumplir sus políticas se está volviendo cada vez más difícil a medida que las aplicaciones explotadoras de IA generativa continúan encontrando nuevas formas de evadir la detección. CBS informa que todavía se pueden encontrar anuncios de la herramienta de desnudos falsos con IA en Instagram después de que Meta eliminó los anuncios de la aplicación marcada en su investigación.
Muchos de los anuncios descubiertos por CBS estaban dirigidos a hombres de entre 18 y 65 años en EE. UU., Reino Unido y la UE. Además de violar las políticas de moderación y seguridad de la plataforma Meta, las aplicaciones que "desnudan" digitalmente a las personas sin su consentimiento (la gran mayoría de las promociones están dirigidas a mujeres y celebridades femeninas) están impulsando un aumento de los esquemas de chantaje y "sextorsión", que a menudo caen en manos de niños.
404 Media publicó un informe de investigación similar en abril de 2024 después de que la compañía descubriera la presencia de herramientas utilizadas para crear videos deepfake de IA no consensuados en Instagram. Posteriormente, Apple y Google eliminaron las aplicaciones señaladas en el informe de sus respectivos mercados de aplicaciones. En agosto de 2024, la ciudad de San Francisco también presentó una demanda contra 16 de los sitios web deepfake de IA más visitados.