El Comité de Supervisión Meta emitió recientemente una decisión pidiendo a las empresas que endurezcan y aclaren las reglas regulatorias lo antes posible para hacer frente a la rápida proliferación de contenido generado por IA y videos profundamente falsos en situaciones de alto riesgo como guerras, desastres y elecciones. La agencia señaló que Meta actualmente tiene deficiencias obvias a la hora de etiquetar e identificar contenido generado por IA a gran escala, especialmente en tiempos de conflicto y crisis, y esta falla puede engañar al público.

La crítica surge de un vídeo falso que apareció en la plataforma Meta el año pasado. El vídeo generado por IA pretende mostrar imágenes de daños a edificios en la ciudad israelí de Haifa y fue publicado por un usuario en Filipinas haciéndose pasar por una fuente de noticias. Muchos usuarios denunciaron el vídeo, pero la plataforma no realizó una revisión interna ni activó un mecanismo de verificación de datos de terceros. El video había estado en línea durante mucho tiempo pero no estaba marcado como "contenido de IA de alto riesgo". No llamó la atención hasta que intervino el comité de supervisión.

El papel del Comité de Supervisión es mejorar el trato que Meta da a los usuarios y a la comunidad a nivel mundial. El comité cree que este caso expuso problemas sistémicos con el sistema de gobernanza de contenido de IA de Meta en plataformas como Facebook, Instagram y Threads, que depende demasiado de la divulgación voluntaria de los usuarios o de procesos internos de “actualización” y no puede igualar la realidad actual de que el contenido de IA se propaga a una velocidad y escala alarmantes, especialmente durante guerras, desastres y eventos políticamente sensibles.

Actualmente, el etiquetado de Meta del contenido generado por IA depende en gran medida de si el creador autodeclara el uso de IA o si el contenido se eleva internamente a un proceso de revisión especial. El Comité de Supervisión señaló que este enfoque está lejos de ser suficiente para hacer frente a la proliferación de deepfakes y medios sintéticos en Internet, y es difícil recordar rápidamente a los usuarios cómo se genera el contenido y es potencialmente engañoso.

En sus últimas recomendaciones, la Junta de Supervisión pidió a Meta que desarrollara un conjunto separado de estándares comunitarios para el contenido generado por IA en lugar de seguir dependiendo de un mosaico fragmentado de respuestas políticas de desinformación. El comité aboga por que las reglas para imágenes, videos y audios generados por IA se unifiquen en un marco claro para que las plataformas puedan realizar intervenciones más consistentes y transparentes en escenarios de alto riesgo.

El comité también recomendó que Meta use la etiqueta "IA de alto riesgo" con más frecuencia para etiquetar de manera destacada el contenido que podría afectar la seguridad pública, la opinión pública y las elecciones. Al mismo tiempo, las empresas deben mejorar aún más las capacidades de los sistemas de detección automatizados para cubrir múltiples formas de medios, como imágenes, videos y audio, y explicar claramente a los usuarios las sanciones específicas que enfrentarán quienes no revelen la síntesis digital o el contenido manipulado.

En términos de fundamentos técnicos, el Comité de Supervisión nombró el marco de la industria de Credenciales de Contenido y consideró que Meta debería adoptar este mecanismo de manera más activa y uniforme. Este marco tiene como objetivo mejorar la trazabilidad y la transparencia del contenido adjuntando metadatos al contenido para indicar la fuente del material y si se utilizan herramientas de inteligencia artificial. Al comité le preocupa que Meta sea actualmente inconsistente en la aplicación de dichos estándares, incluido el etiquetado del contenido generado por sus propias herramientas de inteligencia artificial.

La Junta de Supervisión ha criticado anteriormente las reglas de "manipulación de los medios" de Meta por ser demasiado confusas y de alcance demasiado limitado, centrándose demasiado en "si se utiliza IA" en lugar de "si el contenido es engañoso". Bajo presión, Meta ajustó el sistema de etiquetado relevante y reemplazó la etiqueta original "Hecho con IA (hecho por AI)" por la etiqueta más amplia "Información de AI (información de AI)". Sin embargo, este cambio también ha generado dudas en el mundo exterior. Se cree que el mensaje de la nueva etiqueta es demasiado general y no lo suficientemente llamativo, y los usuarios pueden ignorar fácilmente la información clave.

En vísperas de la toma de posesión del actual presidente de los Estados Unidos, Donald Trump, el director ejecutivo de Meta, Mark Zuckerberg, anunció que la actual asociación de verificación de datos de terceros de la compañía se había vuelto "demasiado sesgada políticamente" y socavaba la confianza de los usuarios en la plataforma, y ​​sería reemplazada por un mecanismo de Notas de la comunidad. Este ajuste significa que la plataforma dependerá aún más del etiquetado espontáneo y la corrección de errores por parte de la comunidad de usuarios para identificar y corregir la información errónea. En el contexto de la rápida proliferación de contenidos deep fake y de IA, esta estrategia también ha desencadenado un debate continuo sobre su eficacia.