Esta semana, la estrella del pop de fama mundial se convirtió en la última víctima de la pornografía deepfake después de que imágenes de Taylor Swift generadas por inteligencia artificial se compartieran decenas de millones de veces en plataformas de redes sociales. Como resultado, la "falsificación profunda" ha vuelto a llamar la atención de los legisladores, y miembros del Congreso de Estados Unidos e incluso de la Casa Blanca han expresado sus opiniones sobre el asunto.
Se compartieron en Channel imágenes explícitas de la cantante Taylor Swift, de 34 años, pero eso no detuvo la difusión de las imágenes, ya que continúan volviéndose virales y se dice que han sido vistas más de 40 millones de veces.
En respuesta a este incidente, X ha estado eliminando activamente estas imágenes y prohibiendo las búsquedas de TaylorSwift en la plataforma en un intento de frenar su propagación. "Estamos monitoreando de cerca la situación para asegurarnos de que cualquier violación adicional se resuelva de inmediato y que el contenido en cuestión sea eliminado", dijo la compañía en un comunicado.
Pero la moderación en la plataforma puede no ser suficiente. Ahora, miembros del Congreso e incluso la Casa Blanca están opinando sobre el tema. El representante estadounidense Joe Morelle dijo que las imágenes fabricadas por IA pueden causar daños emocionales, financieros y de reputación irreparables y, desafortunadamente, las mujeres se ven afectadas de manera desproporcionada".
La representante demócrata Yvette Clark dijo: "La experiencia de Taylor Swift no es nueva. Durante años, las mujeres han sido blanco de deepfakes [sin] su consentimiento. A medida que avanza la inteligencia artificial, se ha vuelto más fácil y barato crear noticias deepfake".
La experiencia de Taylor Swift no es nada nuevo. Las mujeres han sido blanco de ataques durante años con deepfakes sin su consentimiento. Con el avance de la inteligencia artificial, se ha vuelto más fácil y económico crear noticias falsas.
Este es un tema que ambas partes e incluso los Swifties deberían poder abordar juntos.
– Yvette D. Clark (@RepYvetteClarke) 25 de enero de 2024
Como dijo el representante Clark, este no es un problema nuevo. Pero con un objetivo de tan alto perfil, el tema se ha convertido en un foco de discusión pública y ahora puede ser el objetivo de una legislación futura.
El viernes, la secretaria de prensa de la Casa Blanca, Karine Jean-Pierre, calificó las imágenes de "impactantes" y dijo en un comunicado: "Si bien las empresas de redes sociales toman sus propias decisiones independientes con respecto a la moderación de contenidos, creemos que tienen un papel importante que desempeñar en la aplicación de sus propias reglas para evitar la difusión de información errónea e imágenes íntimas no consensuadas de personas reales".
En el Reino Unido, los deepfakes explícitos serán ilegales según la Ley de Ciberseguridad en octubre de 2023. PornHub, un importante proveedor de medios en línea para adultos, ha prohibido la publicación de noticias falsas generadas por IA en su plataforma desde 2018.
Swift aún no ha comentado públicamente sobre el incidente.
Ya sea que este último incidente de alto perfil conduzca o no a una reforma legislativa, el contenido de IA claramente ya está causando problemas a los legisladores. Esta misma semana informamos sobre el primer incidente conocido en el que se utilizó información generada por IA para suprimir la participación electoral, cuando un falso presidente Biden llamó a los residentes de New Hampshire instándolos a no votar.