Después de que en las elecciones primarias del mes pasado se viera un mensaje diseñado para sonar como la voz del presidente estadounidense Joe Biden diciéndole a los residentes de New Hampshire que no votaran, la Comisión Federal de Comunicaciones (FCC) está tomando medidas para ilegalizar el uso de voces generadas por inteligencia artificial para llamadas automáticas. A la agencia le preocupa que la tecnología de audio deepfake se esté utilizando para confundir y engañar a los consumidores imitando las voces de "celebridades, candidatos políticos y parientes cercanos".
La propuesta de la presidenta de la FCC, Jessica Rosenworcel, haría ilegal, según la Ley de Protección al Consumidor Telefónico (TCPA), el uso de voces generadas por inteligencia artificial para contestar llamadas.
La ley TCPA de 1991 restringe el telemercadeo, el uso de sistemas de marcación telefónica automática y mensajes de voz artificiales o pregrabados. La ley también exige que los vendedores telefónicos obtengan el consentimiento expreso por escrito de los consumidores antes de realizar llamadas de voz a los consumidores. La FCC quiere que los sonidos generados por IA también cumplan con esos estándares. Se espera que los cinco miembros del comité voten sobre la propuesta en las próximas semanas.
"Los clones de voz e imágenes generados por IA ya están sembrando las semillas de la confusión, engañando a los consumidores haciéndoles pensar que las estafas y el fraude son legítimos", dijo Rosenworcel en un comunicado. "No importa qué celebridad o político te guste o cuál sea tu relación con tus familiares, es probable que todos seamos el objetivo de estas llamadas falsas cuando piden ayuda".
La empresa de detección de fraude de voz Pindrop analizó el mensaje falso de 39 segundos que sonaba como si Biden les dijera a los residentes de New Hampshire que no votaran y descubrió que fue creado utilizando el motor de texto a voz de ElevenLabs. La startup utiliza software de inteligencia artificial para replicar los sonidos de más de dos docenas de idiomas.
Según Bloomberg, ElevenLabs confirmó que su software se utilizó en el incidente de New Hampshire y prohibió la cuenta responsable. La Oficina del Fiscal General de New Hampshire ha anunciado una investigación sobre las llamadas telefónicas de personas que se hacen pasar por Biden.
Un portavoz de la FCC dijo que los posibles cambios a la ley otorgarían a los fiscales generales estatales nuevos poderes para tomar medidas enérgicas contra los estafadores de llamadas de voz que utilizan inteligencia artificial y al mismo tiempo proteger a los consumidores.
La FCC lleva años luchando contra las llamadas automáticas. En diciembre de 2022, la Comisión Federal de Comunicaciones propuso una multa de 300 millones de dólares contra una operación multinacional ilegal de llamadas automáticas que realizó más de 5 mil millones de llamadas automáticas a más de 500 millones de números de teléfono en un período de tres meses en 2021. En 2020, la oficina también impuso 225 millones de dólares en multas por llamadas automáticas engañosas.
Generar las voces de los familiares se ha convertido en un medio común para que los delincuentes roben dinero de víctimas desprevenidas. Este delito sigue aumentando a medida que la tecnología generada por IA se vuelve más accesible, más barata y más convincente.