Las herramientas modernas generadas por IA capaces de imitar voces humanas reales son a la vez impresionantes y preocupantes. Desde estafas de phishing hasta intromisiones electorales, cualquier aplicación que sea entretenida o útil tiene al menos una que es maliciosa. Ahora, la Comisión Federal de Comercio de Estados Unidos (FTC) también se ha dado cuenta y ha tomado medidas por primera vez. A principios de esta semana, el comité comenzó a aceptar inscripciones para el Desafío de clonación de voz, informó BleepingComputer.
La agencia gubernamental espera obtener algunas ideas útiles para abordar el problema del uso fraudulento o no autorizado de sistemas de clonación de voz basados en IA. Los participantes pueden hacer sugerencias para al menos uno de los siguientes puntos de intervención:
Prevención o autenticación: se debe proporcionar un método para restringir el uso o la aplicación de software de clonación de voz por parte de usuarios no autorizados;
Detección o monitoreo en tiempo real: Se deben proporcionar métodos para detectar voces clonadas o el uso de tecnología de clonación de voces; o
Evaluación posterior al uso: se debe proporcionar un método para verificar si un clip de audio contiene voz clonada.
De acuerdo con las reglas, todas las propuestas presentadas deben incluir una breve descripción textual de la propuesta propuesta y una descripción escrita detallada.
Los jueces del desafío evaluarán las propuestas en tres áreas principales: manejabilidad y viabilidad de ejecución; mayor responsabilidad corporativa y reducción de la carga para los consumidores; y resiliencia. Esto significa que las soluciones propuestas deberían ser relativamente fáciles de poner en práctica y lo más preparadas posible para el futuro, teniendo en cuenta las opciones prácticas disponibles para los desarrolladores de herramientas de IA.
El ganador general del concurso recibirá un bono de 25.000 dólares estadounidenses y el segundo lugar recibirá un bono de 4.000 dólares estadounidenses. Hasta tres menciones honoríficas (una por sitio de intervención) recibirán 2.000 dólares cada una.
Aún así, la FTC dice que no hay resultados, aunque sí preocupantes. Si no surgen ideas viables, significa que los desafíos técnicos son más difíciles de lo esperado y deberían desencadenar los cambios legislativos necesarios para desarrollar políticas para el uso de tales herramientas de IA.
El concurso abierto durará hasta el 12 de enero y los resultados se anunciarán "principios de 2024".
aprender más:
https://www.ftc.gov/news-events/contests/ftc-voice-cloning-challenge