Grupo de consumidores británico Which? descubrió que los estafadores podrían usar ChatGPT y Bard para crear estafas más convincentes, lo que representa una amenaza para el público. Aunque estos chatbots tienen defensas, no es difícil sortearlas.
¿Cual? dice que una de las formas en que los consumidores pueden identificar correos electrónicos y mensajes de texto fraudulentos es a través del deficiente inglés que utilizan. Sin embargo, con la llegada de los chatbots de IA generativa, los estafadores pueden superar este obstáculo fácilmente.
El grupo de consumidores primero pidió a ChatGPT que creara un correo electrónico de phishing desde PayPal, pero, por supuesto, ChatGPT se negó a ayudar. Luego solicita "decirle al destinatario que alguien ha iniciado sesión en su cuenta PayPal", a lo que genera un correo electrónico de aspecto profesional titulado "Aviso de seguridad importante: actividad inusual encontrada en su cuenta PayPal".
Para garantizar que esto no fuera algo aislado, también pidió a ChatGPT y Bard que crearan mensajes de texto de paquetes perdidos, los cuales generaron mensajes de texto convincentes y sugirieron insertar un enlace de reenvío en el mensaje de texto que los estafadores podrían usar para enviar a las víctimas a sitios web maliciosos.
La encuesta de Which? no es una casualidad: se publica coincidiendo con la Cumbre de Inteligencia Artificial del Reino Unido, donde el gobierno, la industria y los investigadores se reunirán para abordar los peligros de una inteligencia artificial cada vez más inteligente.
Comentando la encuesta, ¿Cuál? La directora de Políticas y Promoción, Rocío Concha, dijo:
"Nuestra investigación ilustra claramente cómo esta nueva tecnología está facilitando que los delincuentes defrauden a las personas. La próxima cumbre de IA del gobierno debe considerar cómo proteger a las personas de los daños que ocurren aquí y ahora, en lugar de centrarse únicamente en los riesgos a largo plazo de la IA de vanguardia".
La Cumbre de Inteligencia Artificial se celebrará en el Reino Unido los días 1 y 2 de noviembre. Según Reuters, una de las últimas novedades es que China ha decidido aceptar una invitación para participar en el evento. Esto es bueno porque varias empresas chinas están desarrollando actualmente sus propios chatbots genAI.