A principios de diciembre, Microsoft anunció que su chatbot de inteligencia artificial Copilot (anteriormente conocido como Bing chatbot) había salido de la versión preliminar pública. En ese momento, Microsoft dijo que "las empresas y los usuarios pueden sentirse más seguros al usarlo como parte de su flujo de trabajo diario". Sin embargo, una investigación realizada por dos organizaciones sin fines de lucro que rastrean cómo el uso de la inteligencia artificial afecta a las personas y a la sociedad encontró que Copilot a menudo proporcionaba información falsa o incorrecta cuando se le preguntaba sobre las próximas elecciones en los Estados Unidos y en el extranjero.
Wired publicó una historia sobre la investigación, realizada por AIForensics y AlgorithmWatch, dos grupos que hicieron preguntas a Copilot desde finales de agosto hasta principios de octubre sobre las próximas elecciones en Suiza y Alemania, que finalmente tendrán lugar en octubre.
Los investigadores concluyeron en su estudio que un tercio de las respuestas proporcionadas por Copilot contenían errores fácticos y que la herramienta era una "fuente de información poco confiable para los votantes". Descubrieron que en un subconjunto más pequeño de grabaciones de conversaciones, el 31% de Copilot proporcionó respuestas inexactas, algunas de las cuales eran completamente inventadas.
Wired hizo preguntas de forma independiente a Copilot sobre las próximas elecciones estadounidenses de 2024. Dijo que cuando se le pidió una lista de candidatos republicanos a la presidencia de Estados Unidos, el chatbot enumeró una serie de candidatos que habían abandonado la carrera.
En otro ejemplo, Wired le pidió a Copilot que creara una imagen de una persona en una urna en Arizona. El chatbot respondió que no podía crear esa imagen, pero luego mostró otras imágenes que enlazaban con artículos que hacían afirmaciones falsas de conspiración sobre las elecciones estadounidenses de 2020.
La empresa de investigación que realizó el informe inicial en Europa envió sus hallazgos a Microsoft, que informó que Microsoft hizo algunas mejoras pero que Wired aún permitía a Copilot repetir gran parte de la misma información falsa e inexacta para algunas de las mismas indicaciones de texto.
El portavoz de Microsoft, Frank Shaw, comentó sobre el informe de Wired y dijo que la compañía está tomando medidas para mejorar las respuestas de Copilot antes de las elecciones estadounidenses de 2024. Xiao agregó:
Esto incluye un enfoque continuo en brindar a los usuarios de Copilot información electoral de fuentes autorizadas. Mientras continuamos progresando, animamos a las personas a utilizar su mejor criterio al utilizar Copilot para revisar los resultados. Esto incluye verificar el material fuente y consultar enlaces web para obtener más información.
Han surgido preocupaciones sobre el uso de aplicaciones y servicios de inteligencia artificial para crear información errónea y contenido "deepfake" en un intento de influir en las próximas elecciones. Tendremos que esperar y ver si Microsoft puede mantener este tipo de contenido fuera de Copilot en los próximos meses.