El director ejecutivo de Microsoft, Satya Nadella, ha respondido a la controversia sobre las imágenes pornográficas falsas de Taylor Swift generadas artificialmente. En una entrevista en NBC Nightly News que se transmitirá el próximo martes, Nadella calificó la proliferación de desnudos no consensuados generados por IA como "impactante, muy aterradora" y le dijo al entrevistador Lester Holt: "Creo que deberíamos actuar rápidamente al respecto".
En una transcripción publicada por NBC antes del programa del 30 de enero, Holt le pidió a Nadella que respondiera a las "imágenes pornográficas falsas de Taylor Swift que han inundado Internet". Las respuestas de Nadella lograron desmitificar varios misterios de la política tecnológica, pero se sabe poco sobre ellos, lo que no sorprende cuando no existe una solución infalible.
Quiero destacar dos puntos: primero, vuelvo a lo que creo que es nuestra responsabilidad, que es que debemos poner todas las barreras en torno a la tecnología para producir contenido más seguro. Hay mucho por hacer y muchas cosas por hacer. Pero se trata de una cuestión global, social... ya sabes, yo diría, de convergencia en ciertas normas. Lo que podemos hacer, especialmente cuando la ley, la aplicación de la ley y las plataformas tecnológicas pueden unirse, creo que podemos gestionar mucho más de lo que pensamos y nos damos mucho más crédito del que pensamos.
Y el propio Microsoft puede tener algo que ver con las imágenes falsas de Swift. Un informe de 404Media reveló que las imágenes provenían de una comunidad de producción de contenido pornográfico basada en Telegram, que recomendaba el uso del generador de imágenes Microsoft Designer. En teoría, Designer se niega a generar imágenes de celebridades, pero los generadores de IA se pueden engañar fácilmente y 404 descubrió que podía romper sus limitaciones con sólo unos pocos ajustes en las indicaciones. Si bien esto no prueba que las imágenes de Taylor Swift se crearon con Designer, es un defecto técnico que Microsoft puede solucionar.
Sin embargo, las herramientas de inteligencia artificial han simplificado enormemente el proceso de creación de fotografías falsas de desnudos de personas reales, lo que ha causado grandes problemas a mujeres que son mucho menos poderosas y famosas que Taylor Swift. Y controlar su producción no es tan sencillo como pedir a las grandes empresas que intensifiquen sus defensas. Incluso si las plataformas de "gran tecnología" como Microsoft están bloqueadas, la gente puede volver a entrenar herramientas abiertas como StableDiffusion para generar imágenes NSFW, aunque hay intentos de hacerlo más difícil. Puede que haya muchos menos usuarios accediendo a estos generadores, pero el incidente de Swift muestra hasta qué punto se puede difundir el trabajo de una pequeña comunidad.
Nadella insinuó vagamente cambios sociales y políticos más importantes, pero a pesar de algunas medidas iniciales para regular la inteligencia artificial, Microsoft no tiene soluciones claras. Los legisladores y las fuerzas del orden en general han tenido dificultades para lidiar con imágenes relacionadas con el sexo no consensuadas, y la falsificación de inteligencia artificial agrega una capa adicional de complejidad. Algunos legisladores están intentando reestructurar las leyes de publicidad para abordar este problema, pero las soluciones propuestas a menudo plantean serios riesgos para el discurso. La Casa Blanca ha pedido "acción legislativa" sobre el tema, pero ni siquiera ha proporcionado muchos detalles sobre lo que eso significaría.
Hay otras medidas provisionales, como que las redes sociales restrinjan la difusión de imágenes no consensuadas, pero por ahora, el único plan claro de Nadella es mejorar la unidad de inteligencia artificial de Microsoft.
Artículos relacionados: