YouTube está extendiendo su nueva tecnología de "detección de semejanza" a la industria del entretenimiento para ayudar a las estrellas y sus equipos a identificar y eliminar contenido generado por IA y videos deepfake de la plataforma, reveló la compañía en un anuncio en su sitio web el martes.
La herramienta funciona de manera similar al sistema Content ID existente de YouTube, que detecta automáticamente material protegido por derechos de autor cuando los usuarios suben videos, lo que facilita a los propietarios de derechos de autor solicitar la eliminación o participar en el intercambio de anuncios del video. La detección de retratos se centra en identificar rostros simulados y tiene como objetivo proteger a los creadores y otras figuras públicas de que sus identidades sean explotadas sin permiso; por ejemplo, retratos de celebridades que se utilizan para publicidad fraudulenta, un problema que se ha vuelto cada vez más común en los últimos años.
La tecnología de YouTube se puso inicialmente a disposición de un grupo selecto de creadores como programa piloto el año pasado y desde entonces se ha ido ampliando gradualmente. Esta primavera, YouTube amplió su cobertura para incluir a políticos, funcionarios gubernamentales y periodistas para ayudarlos a combatir el abuso de los deepfakes de IA. Ahora, la compañía ha anunciado que esta herramienta se extenderá aún más a los participantes de la industria del entretenimiento, incluidas las agencias de talentos, las empresas de gestión de artistas y los artistas famosos que representan. Varias agencias importantes de Hollywood, incluidas CAA, UTA, WME y Untitled Management, han participado en brindar comentarios y pulir la nueva herramienta.
Vale la pena señalar que el artista no necesita tener un canal de YouTube para utilizar la herramienta de detección de parecidos. Detrás de escena, el sistema escanea el contenido generado por IA en la plataforma para detectar cualquier coincidencia con la información facial de los participantes registrados. Una vez que se encuentra contenido coincidente, el usuario puede optar por iniciar una solicitud de eliminación de acuerdo con la política de privacidad de YouTube, enviar una solicitud de eliminación por derechos de autor o decidir no realizar ninguna acción. Sin embargo, la plataforma también enfatizó que no se eliminarán todos los videos relevantes porque sus reglas aún permiten un cierto rango de parodia y sátira.
YouTube dijo que esta tecnología también se ampliará para admitir la dimensión de audio en el futuro, lo que significa que se espera que identifique y procese sonidos no autorizados sintetizados por IA y otros contenidos en el futuro. A medida que el producto evoluciona, YouTube también aboga por más protecciones sistémicas a nivel federal, apoyando la "Ley NO FAKES" que se está discutiendo actualmente en el Congreso de los Estados Unidos. El proyecto de ley tiene como objetivo regular la reproducción no autorizada de voces personales y retratos visuales utilizando tecnología de inteligencia artificial y proporcionar límites legales más claros para figuras públicas y usuarios comunes.
Actualmente, YouTube no ha revelado cuántas solicitudes de eliminación de contenido deepfake de IA ha procesado la herramienta hasta ahora. Sin embargo, la compañía dijo en marzo que el número de eliminaciones provocadas por la herramienta de detección de retratos todavía era "muy bajo". A medida que la tecnología generada por IA profundiza su penetración en las industrias del entretenimiento y la publicidad, cada vez más figuras públicas, desde creadores, políticos hasta estrellas de cine y televisión, están comenzando a depender de medios técnicos a nivel de plataforma para hacer frente al riesgo de abuso de sus imágenes y voces.