Meta lanzó recientemente oficialmente un nuevo sistema de detección de contenido de IA, "Content Seal", cuyo objetivo es incrustar marcas de agua invisibles en imágenes creadas por los modelos de última generación de IA de la compañía (como Muse), ayudando así a los internautas a distinguir el contenido real de las falsificaciones profundas. Sin embargo, el lanzamiento de este nuevo sistema no obtuvo elogios de la industria. Más bien, desencadenó dudas generalizadas sobre su necesidad y practicidad.

Se entiende que el principio de funcionamiento central de Content Seal es similar al de Google.SynthIDAl igual que las credenciales de contenido de C2PA, las señales de trazabilidad invisibles a simple vista están integradas en el contenido generado por IA. Incluso si la imagen se recorta, se comprime, se cambia el tamaño o se hace una captura de pantalla, las herramientas de detección aún pueden reconocer la marca de agua. Aunque su lógica funcional se superpone en gran medida con los estándares existentes, Meta no eligió unirse al ecosistema maduro respaldado por múltiples gigantes, sino que decidió crear de forma independiente un nuevo sistema exclusivo.

El análisis señaló que Content Seal ha expuesto muchas limitaciones obvias en esta etapa. En primer lugar, actualmente los usuarios solo pueden pasar la prueba que Meta está probando.Herramientas web propietariaspara pruebas, Meta aún no está tanGoogle hace eso en GeminiIntegrando esta capacidad de detección directamente en su producto principal de chatbot. En segundo lugar, esta marca de agua actualmente solo se aplica a imágenes generadas por el modelo Muse en aplicaciones y sitios web Meta AI. No sólo no puede cubrir los modelos de IA anteriores de Meta, sino que aún no se ha lanzado la compatibilidad con el contenido de vídeo generado.

Además, Meta también impone un límite de uso diario a la herramienta de detección para evitar abusos maliciosos del sistema, lo que contrasta marcadamente con el estándar C2PA que no establece límites de consultas. Las pruebas de medios relevantes también muestran que la tasa de éxito de la detección de Content Seal es baja cuando se enfrenta a imágenes recortadas. La industria generalmente cree que con la ola de IA generativa que está arrasando el mundo, Meta lanzó este sistema de desarrollo propio con funciones limitadas y un inicio tardío. No solo no logró mejorar efectivamente la transparencia de la IA de toda la red, sino que agregó obstáculos innecesarios para que los usuarios principales verificaran la autenticidad del contenido.