Hoy, las noticias de CCTV expusieron el caos de las voces de clonación de IA. En una determinada plataforma social,Un bloguero utilizó IA para falsificar la voz del campeón olímpico Quan Hongchan y vender huevos locales.Al mismo tiempo, las voces de Sun Yingsha y Wang Chuqin también fueron "clonadas" y utilizadas para promover los "Huevos locales de Chanbaojia" de manera destacada.
"Quanhongchan", que fue falsificada por AI, dijo en el video que ella trajo los productos: "Soy tu Chanbao. Necesito tu ayuda hoy. Chanmei quiere ayudar a su madre y mejorar la vida de su familia. Al mismo tiempo, compartirá los huevos locales de su ciudad natal con sus fans para que los prueben. Hoy, permitirá que su madre saque 300 huevos locales de su ciudad natal como bienestar para todos".
El área de comentarios mostró que muchos internautas pensaron erróneamente que se trataba del propio campeón olímpico y realizaron pedidos para comprarlo.
Además, los blogueros "clonan" las voces del actor Jin Dong y otros para una transmisión de voz en vivo las 24 horas.
Según el informe, la investigación del periodista encontró quePuede encontrar fácilmente una gran cantidad de tutoriales e información de descarga de software para la clonación de sonidos de IA en plataformas en línea.
Algunos vendedores incluso dijeron que la voz de cualquier persona se puede “clonar” fácilmente siempre que tenga un minuto de material.
Se entiende que para estandarizar aún más el uso de contenido generado por inteligencia artificial y facilitar a los usuarios identificar mejor el contenido virtual, la Administración del Ciberespacio de China y otros cuatro departamentos emitieron conjuntamente las "Medidas de etiquetado para contenido sintético generado por inteligencia artificial" (denominadas las "Medidas de etiquetado"), cuya implementación oficial está programada para el 1 de septiembre de 2025.
Las "Medidas de Identificación" aclaran que los proveedores de servicios deben agregar una identificación explícita al contenido sintético generado, como texto, audio, imágenes, videos, escenas virtuales, etc.Al proporcionar funciones como descargar, copiar y exportar contenido sintético generado, se debe garantizar que el archivo contenga una identificación explícita que cumpla con los requisitos; Se debe agregar identificación implícita a los metadatos del archivo que genera contenido sintético.