Resumen:
Con la rápida proliferación de contenidos de inteligencia artificial generativa en Internet, resulta cada vez más importante identificar la autenticidad del contenido digital. Google lanzó oficialmente un sitio web de detección SynthID abierto al público el 7 de octubre, permitiendo a cualquier usuario subir imágenes, vídeos o archivos de audio para verificar si fueron generados o editados por inteligencia artificial.
De hecho, esta herramienta no se estrenará. Google abrió la versión de prueba a algunos periodistas, organizaciones de medios e investigadores ya en la Conferencia de Desarrolladores de E/S del año pasado, y ahora está oficialmente abierta a usuarios de todo el mundo, con la esperanza de mejorar la capacidad del público para identificar contenido de IA.
SynthID, lanzado inicialmente en 2023, es un conjunto de tecnologías de marcas de agua digitales desarrolladas por Google. A diferencia de las marcas de agua visibles tradicionales, SynthID incorpora marcas ocultas que son imperceptibles a simple vista y oído al generar contenido, de modo que el contenido no se verá afectado durante el uso normal y podrá identificarse en detecciones posteriores.
En la actualidad, muchos de los modelos y servicios de inteligencia artificial de Google han adoptado esta tecnología, incluido el modelo de imagen Nano Banana, el modelo de video Veo, el modelo de audio Lyria y plataformas con funciones de generación de contenido como Gemini, Flow, ProducerAI y Vids. Todo el contenido multimedia generado a través de estas herramientas incorporará automáticamente marcas de agua digitales SynthID.
La plataforma de detección lanzada esta vez admite una amplia gama de formatos de archivos. Para imágenes, admite JPG, JPEG, PNG, BMP, WEBP, AVIF, HEIC, HEIF, TIFF, TIF y GIF; para vídeos, admite MP4, MOV y WEBM; para audio, admite formatos convencionales como WAV, MP3, OGG, FLAC, AAC y M4A.
Además del ecosistema propio de Google, SynthID se está convirtiendo gradualmente en un estándar intersectorial. OpenAI, Nvidia y la empresa coreana de Internet Kakao ya admiten esta tecnología, y se dice que Apple se unirá al campo de soporte en el futuro. Esto significa que en el futuro los usuarios no sólo podrán identificar el contenido generado por la IA de Google, sino también detectar archivos multimedia de otros sistemas asociados.
Google afirmó que el servicio de detección actualizado ya puede identificar marcas de agua digitales de socios y ya no se limita al contenido generado por el propio modelo de Google. Al mismo tiempo, OpenAI también conserva su propia plataforma de detección de contenido para proporcionar a los usuarios canales de verificación independientes.
Además de los sitios web independientes, Google ha integrado capacidades de detección de SynthID en la aplicación Gemini y el navegador Chrome. Según datos divulgados oficialmente, el número de solicitudes de verificación de contenido iniciadas por los usuarios a través de estos canales cada día ha alcanzado aproximadamente 1 millón, lo que demuestra que la demanda del público por identificar la autenticidad del contenido de IA está creciendo rápidamente.
Sin embargo, Google también admite que la actual tecnología de detección de contenidos mediante IA no es infalible. Las soluciones de marcas de agua digitales solo pueden identificar contenido generado utilizando estándares relevantes y es posible que no puedan detectar trabajos de IA que no utilicen SynthID u otros estándares compatibles. Además, diferentes empresas todavía utilizan diferentes sistemas de marcado y verificación y la industria aún no ha formado un estándar unificado.
Al mismo tiempo, empresas de tecnología como Microsoft y Meta también están avanzando en sus propias soluciones de verificación de contenido y marcas de agua digitales. Sin embargo, en la industria se cree generalmente que las herramientas de detección, ya sean lanzadas por Google u otros fabricantes, todavía tienen ciertas limitaciones. En algunos casos, ni siquiera pueden identificar con precisión el contenido generado por sus propios modelos.
Sin embargo, a medida que la cantidad de contenido generado por IA continúa aumentando, incluidos videos deepfake, imágenes de IA y contenido de síntesis de voz que se vuelven cada vez más comunes, la apertura de la plataforma SynthID por parte de Google al público se considera un paso importante para que la industria tecnológica mejore la transparencia del contenido y combata la información falsa. En el futuro, a medida que más empresas se unan al ecosistema unificado de marcas de agua digitales, los usuarios de Internet podrán tener herramientas más confiables para determinar la verdadera fuente del contenido en línea.
Comentarios