Meta comenzará a anotar fotos generadas por IA cargadas en Facebook, Instagram y Threads en los próximos meses a medida que se celebren elecciones en todo el mundo. La compañía también comenzará a penalizar a los usuarios que no revelen si los videos o el audio de la vida real fueron producidos por inteligencia artificial.
Nick Clegg, presidente de asuntos globales de Meta, dijo en una entrevista que estas medidas tienen como objetivo "incentivar" la industria tecnológica a medida que los medios generados por inteligencia artificial se vuelven cada vez más difíciles de distinguir entre lo verdadero y lo falso. La Casa Blanca ha estado presionando mucho para que las empresas coloquen marcas de agua en el contenido generado por IA. Mientras tanto, dijo Clegg, Meta está desarrollando herramientas para detectar medios sintéticos incluso si sus metadatos han sido manipulados para ocultar el papel de la inteligencia artificial en su creación.
Meta ya pone la marca de agua "Imagined with AI" en las imágenes generadas con su propio generador ImagineAI, y la compañía comenzará a aplicar la misma marca de agua a las fotografías con IA generadas con herramientas de Google, OpenAI, Microsoft, Adobe, Midjourney y Shutterstock. Clegg dijo que la industria estaba muy por detrás de otras industrias en el establecimiento de estándares para identificar video y audio generados por IA. Aunque Meta sigue muy atenta a cómo se puede utilizar este tipo de medios para engañar, la empresa no puede detectarlo todo por sí sola.
Dijo: "Permaneceremos muy atentos a aquellos que están preocupados de que el contenido de vídeo y audio esté diseñado para engañar al público sobre importantes cuestiones políticas previas a las elecciones. ¿Creo que es posible que no importa lo rápido que nos descubran o etiqueten, todavía seremos acusados inexplicablemente de estar fuera de la cadena? Sí, creo que es posible, aunque no muy probable".
Meta ha estado trabajando con organizaciones como Partnership for Artificial Intelligence para aprovechar las iniciativas de autenticidad de contenido existentes. Adobe lanzó recientemente un sistema de credenciales de contenido que incorpora información de procedencia del contenido en metadatos de imágenes. Después de lanzar una versión beta de la marca de agua SynthID para imágenes, Google la ha ampliado a archivos de audio.
Clegg dijo que Meta pronto comenzará a pedir a los usuarios que revelen publicaciones con video o audio fotorrealista producido con inteligencia artificial. Si los usuarios no lo revelan, dijo, "estarán sujetos a sanciones que van desde advertencias hasta la eliminación de publicaciones ofensivas".
Ya hay muchos ejemplos de publicaciones virales de políticos generadas por IA, pero Clegg subestimó la probabilidad de que el fenómeno se apoderara de la plataforma de Meta en un año electoral. "No creo que vayamos a ver un vídeo o audio completamente sintético y políticamente significativo en el corto plazo", dijo. "Simplemente no creo que vaya a ser así".
Meta también ha comenzado a probar internamente el uso de grandes modelos de lenguaje (LLM) entrenados según los estándares de la comunidad, dijo, y lo describió como un "mecanismo de clasificación" eficiente para decenas de miles de revisores humanos. "Esta parece ser una forma muy efectiva y bastante precisa de garantizar que el contenido que se informa a nuestros revisores humanos sea de hecho el tipo de caso límite que requiere juicio humano", dijo.