YouTube está fortaleciendo la identificación y gestión de videos generados por IA y ya no depende únicamente de la divulgación voluntaria por parte de los creadores. La compañía anunció recientemente que su sistema interno detectará y etiquetará automáticamente videos utilizando tecnología de "IA inmersiva significativa" a partir de mayo, incluidos videos largos y cortos, y también se mejorará simultáneamente la posición y prominencia de las etiquetas relevantes.
Según información difundida por YouTube, la plataforma utiliza etiquetas de contenido con IA desde hace más de dos años. Anteriormente, requería principalmente que los creadores declararan a través de herramientas en Creator Studio: si el video contiene contenido de IA que podría confundirse con personas reales, lugares reales o eventos reales, debe divulgarse; mientras que el contenido que es obviamente de fantasía, dibujos animados o irrealmente confuso, como unicornios corriendo en un mundo ficticio, está exento de etiquetado. YouTube declaró que la política actual de etiquetado de IA en sí no ha cambiado, pero que la plataforma pasará de "exigir a los creadores que informen ellos mismos" a un modelo de gobernanza más activo de "identificación activa de la plataforma + cooperación de los creadores".
Este movimiento se produce inmediatamente después del lanzamiento por parte de Google del modelo multimodal Gemini Omni en su conferencia de desarrolladores de E/S. Gemini Omni puede generar videos de alta calidad que comprenden contextos complejos como la física, la cultura, la historia y la ciencia, lo que genera preocupación sobre una mayor proliferación de videos inmersivos con IA. YouTube dijo que utilizará nuevas señales internas para identificar el contenido generado por IA y etiquetarlo automáticamente. Incluso si el creador lo olvida o se niega a revelarlo, el sistema lo etiquetará en su nombre.
En términos de corrección de etiquetas, si los creadores creen que su contenido ha sido juzgado erróneamente como un video de IA, pueden actualizar el estado de divulgación en el video. Sin embargo, si el contenido es generado por las propias herramientas de IA de YouTube (como Veo o Dream Screen), el creador no tiene derecho a eliminar la etiqueta de IA agregada por la plataforma. Además, una vez que un video contiene metadatos C2PA y parece estar completamente generado por IA, las etiquetas asociadas se adjuntarán permanentemente al video. Actualmente, OpenAI ha anunciado su soporte al estándar C2PA, y organizaciones como NVIDIA, Kakao y Eleven Labs también se han sumado a este campo para promover la trazabilidad del contenido de IA.
Antes del lanzamiento de la detección y anotación automáticas, YouTube amplió el alcance de sus herramientas de detección de deepfake mediante IA. La herramienta de escaneo de coincidencia de rostros de la plataforma, que originalmente solo estaba disponible para pruebas con celebridades, figuras públicas, políticos y algunos creadores, ahora puede ser utilizada por cualquier adulto para escanear si su imagen en YouTube ha sido sintetizada artificialmente o suplantada por IA. Sobre esta base, YouTube cree que es necesario ampliar simultáneamente el alcance y la intensidad del etiquetado automático de contenidos de IA.
YouTube también ajustará la ubicación de las etiquetas para hacerlas más visibles y consistentes. Anteriormente, las etiquetas de IA generalmente estaban ocultas en la columna de descripción ampliada y solo se mostraban de manera destacada en la parte superior de la pantalla de video cuando el video involucraba temas delicados como salud y noticias. Después de la revisión, para videos largos, la etiqueta AI se mostrará de manera fija directamente debajo del reproductor y encima del texto de descripción del video; para videos cortos, se superpondrá directamente al video. La plataforma afirmó que este diseño es para permitir a los usuarios identificar de un vistazo contenido inmersivo que ha sido modificado por IA o generado por IA.
Para videos que están ligeramente modificados por IA, animados o claramente poco realistas (como la escena del unicornio de fantasía antes mencionada), YouTube seguirá colocando la etiqueta en la descripción de la expansión en lugar de debajo del reproductor o superponiéndolo para evitar interrupciones innecesarias en la experiencia de visualización. Vale la pena señalar que YouTube enfatiza que la etiqueta AI en sí no afectará el algoritmo de recomendación de videos ni debilitará su capacidad de monetización, es decir, las obras marcadas como contenido AI aún pueden participar normalmente en los ingresos por distribución y publicidad.
Mientras fortalece la gestión de contenido de IA, YouTube también continúa utilizando la tecnología de IA para innovar productos y actualizar funciones. La plataforma ha probado y lanzado previamente una serie de funciones de IA, incluida la función de búsqueda interactiva "Pregunte a YouTube", un generador de listas de reproducción de IA para suscriptores de YouTube Music, resumen automático de videos de IA y una serie de herramientas de creación generativa y herramientas de generación de música de IA para cortos y creadores. Para YouTube, cómo lograr un equilibrio entre el uso de la IA para promover el desarrollo de productos y prevenir el riesgo de abuso de la IA se está convirtiendo en una de las cuestiones clave de su estrategia futura.