Los investigadores han utilizado la inteligencia artificial para crear una manera de mejorar la calidad y el civismo de las discusiones en línea sobre temas polarizantes, proporcionando a los usuarios sugerencias para reformular sus comentarios antes de publicarlos. Dicen que si se usa correctamente, la inteligencia artificial puede usarse para crear un entorno digital más amigable y seguro.
Las conversaciones en línea desempeñan ahora un papel central en el debate público. Pero las secciones de comentarios de las plataformas de redes sociales y los medios de noticias digitales están llenas de discusiones que derivan en discusiones, amenazas y insultos, especialmente cuando las discusiones tocan temas divisivos.
Ahora, investigadores de la Universidad Brigham Young (BYU) y la Universidad de Duke han desarrollado inteligencia artificial que puede moderar los chats en línea, mejorar la calidad del chat y promover el civismo.
Reclutaron a 1.574 participantes para un experimento de campo y les pidieron que participaran en debates en línea sobre el control de armas en Estados Unidos, un tema divisivo que a menudo se plantea en los debates políticos. Cada participante fue emparejado con alguien que se oponía a la política de armas.
Después de un emparejamiento exitoso, los interlocutores fueron asignados aleatoriamente a la condición de tratamiento o control y luego comenzaron la conversación. Al procesar conversaciones, un participante recibe tres sugerencias de reformulación de GPT-3 antes de enviar un mensaje. Los participantes pueden optar por enviar una de las tres alternativas sugeridas por la IA, su propio mensaje original o editar cualquier mensaje.
Se enviaron una media de 12 mensajes por conversación y la IA sugirió un total de 2.742 mensajes reescritos. Los participantes aceptaron los cambios de palabras sugeridos por la IA dos tercios de las veces. Los compañeros de chat de personas que implementaron una o más de las sugerencias de redacción de la IA informaron conversaciones de calidad significativamente mayor y una mayor disposición a escuchar las perspectivas de sus oponentes políticos.
"Descubrimos que cuanto más frecuentemente se utilizaba la reformulación, más probabilidades había de que los participantes sintieran que la conversación no causaba división y que se sentían escuchados y comprendidos", dijo David Wingate, uno de los coautores del estudio.
Los investigadores dicen que sus hallazgos sugieren que esta solución escalable podría combatir la cultura tóxica en línea que satura Internet. Dicen que esto sería más fácil de implementar que los cursos de capacitación profesional sobre civismo cibernético, que tienen un alcance y disponibilidad limitados, porque las intervenciones de IA se pueden implementar ampliamente a través de una variedad de canales digitales.
Los investigadores dicen que el estudio muestra de manera concluyente que, si se usa correctamente, la inteligencia artificial puede desempeñar un papel importante en la creación de un entorno en línea más positivo, promoviendo debates compasivos y respetuosos.
"Espero que sigamos permitiendo que más estudiantes de BYD creen aplicaciones prosociales como esta, y que BYD pueda convertirse en un líder en la demostración de formas éticas de utilizar el aprendizaje automático", dijo Wingate. "En un mundo dominado por la información, necesitamos estudiantes que puedan procesar la información del mundo de manera positiva y socialmente beneficiosa".
La investigación fue publicada en las Actas de la Academia Nacional de Ciencias (PNAS).