En octubre de 2024, apareció una gran cantidad de videos de doblaje del CEO de Xiaomi, "Lei Jun", en la plataforma de videos cortos, y surgieron uno tras otro varias imitaciones de doblaje y videos falsos. De hecho, las voces en estos videos no son del propio Lei Jun, sino que están dobladas por AI.Desde el empresario suplantador Lei Jun hasta la IA que produce audio y video del Dr. Zhang Wenhong para vender sus productos, incluso hay delincuentes que usan la IA para sintetizar profundamente videos para cometer fraude.
El año pasado, el fenómeno de la infracción de audio y vídeo de síntesis profunda de IA se ha vuelto cada vez más grave.
Recientemente, CCTV News expuso el caos del audio y vídeo de celebridades sintetizados por IA.
Anteriormente, algunos internautas utilizaron la voz de Andy Lau producida por IA para ganar tráfico. Andy Lau Film Company también emitió una declaración urgente para recordar a los internautas que no caigan en la estafa de la tecnología de síntesis de voz AI de falsificar la voz de Andy Lau.
Una investigación de CCTV News encontró que no es difícil lograr una síntesis profunda de audio y video mediante IA, e incluso en algunas plataformas de compras,La tecnología de síntesis profunda de IA se ha convertido en una herramienta rentable para muchas tiendas en línea. Solo cuesta decenas de yuanes personalizar la síntesis profunda de IA de audio y video de celebridades.
Los expertos dijeron,Las leyes y regulaciones pertinentes estipulan claramente que la síntesis profunda, la producción y la divulgación de información de otras personas están prohibidas sin autorización.
Las tiendas en línea que reciben pedidos de síntesis profunda de IA para producir videos de celebridades ya constituyen infracciones y deberían asumir las responsabilidades legales correspondientes.
Además, no sólo las celebridades, sino también la gente corriente e incluso las imágenes animadas, si utilizan IA para sintetizar su audio y vídeo sin el consentimiento de la persona o del propietario de los derechos de autor, también se puede considerar una infracción y deberían asumir responsabilidad legal.