Después de las elecciones presidenciales estadounidenses de 2024, un gran número de usuarios recurrieron a la red social descentralizada Bluesky debido al descontento con los comentarios ofensivos partidistas de la plataforma X (anteriormente Twitter). Bluesky no utiliza algoritmos para recomendar contenido y sí redujo el discurso extremo y la desinformación en la etapa inicial. Pero al cabo de un año, la plataforma todavía tenía un efecto de cámara de eco.
Investigadores de la Universidad de Ámsterdam descubrieron a través de experimentos de simulación de IA que incluso sin algoritmos complejos, las redes sociales se dividirán naturalmente en círculos cerrados y formarán un fenómeno de polarización con solo funciones básicas como publicar, reenviar y seguir. Construyeron una plataforma simplificada con 500 usuarios virtuales, establecieron características de usuario basadas en datos de la Investigación Electoral Nacional de EE. UU. y utilizaron grandes modelos de lenguaje como ChatGPT, Llama y DeepSeek para simular el comportamiento de los usuarios. Después de que el experimento duró 10.000 ciclos de interacción, surgieron tres problemas principales en la plataforma: cámaras de eco, concentración de influencia y habla extrema.
Los investigadores probaron seis intervenciones, como mostrar publicaciones en orden cronológico o impulsar puntos de vista opuestos, pero ninguna resolvió completamente el problema y algunas incluso exacerbaron los fenómenos negativos. Académicos de la Universidad de Washington creen que este resultado refleja "una resonancia entre la naturaleza humana y la dinámica de la atención de las redes sociales", y que incluso si se elimina el algoritmo, la arquitectura del sistema aún puede conservar toxicidad.
Expertos de la Universidad de Indiana han cuestionado que los propios datos de entrenamiento de la IA puedan contener toxicidad en las redes sociales, lo que hace que los resultados experimentales estén inherentemente sesgados hacia la polarización. Los investigadores de la Universidad de Nueva York creen que, aunque no existe una solución sencilla, los usuarios que publican contenido más neutral pueden ayudar a aliviar la polarización.
Este estudio revela el mecanismo subyacente de la polarización de las redes sociales y muestra que es difícil erradicar el problema sólo mediante ajustes técnicos y requiere una combinación de estrategias multipartidistas para abordarlo.