El audio creado con el modelo AI Lyria de Google DeepMind, como las pistas creadas con la nueva función de generación de audio de YouTube, tendrá una marca de agua con un SynthID para permitir a las personas identificar su fuente generada por IA después del hecho.
La marca de agua es imperceptible para el oído humano y "no afecta la experiencia auditiva", dijo DeepMind en una publicación de blog, y agregó que la marca de agua aún puede reconocerse incluso si la pista se comprime, acelera o desacelera, o si se agrega ruido adicional.
Las herramientas de marca de agua como SynthID se consideran una salvaguardia importante contra ciertos daños causados por la inteligencia artificial generativa. Por ejemplo, la orden ejecutiva del presidente estadounidense Joe Biden sobre inteligencia artificial exige el desarrollo de un nuevo estándar liderado por el gobierno para poner marcas de agua en el contenido generado por IA. Esta es un área prometedora, pero la tecnología actual está lejos de ser una panacea contra el fraude de contenidos de IA.
Según DeepMind, la implementación de audio de SynthID "convierte ondas de audio en una visualización bidimensional que muestra cómo el espectro de frecuencia del sonido evoluciona con el tiempo". La compañía afirma que este enfoque "no se parece a nada que exista actualmente".
La noticia de la capacidad de Google para incrustar marcas de agua en audio generado por IA llega apenas unos meses después de que la compañía lanzara una versión beta de SynthID para imágenes creadas por Imagen en Apex AI de Google Cloud. Esta marca de agua puede resistir ediciones como recortar o cambiar el tamaño, pero DeepMind advierte que no es resistente al "retoque fotográfico extremo".