La inteligencia artificial generativa se está desarrollando rápidamente, pero un nuevo estudio de la Universidad de East Anglia (UEA) advierte que podría plantear peligros ocultos para la confianza pública y los valores democráticos.ChatGPT es un modelo de inteligencia artificial ampliamente utilizado que tiende a favorecer los puntos de vista de izquierda y evitar los conservadores, lo que genera preocupación sobre su influencia en la sociedad. El estudio destaca la necesidad urgente de salvaguardias regulatorias para garantizar que las herramientas de IA sigan siendo justas, equilibradas y coherentes con los valores democráticos.

El estudio, realizado en colaboración con investigadores de la Fundación Getulio Vargas (FGV) de Brasil e Insper, encontró que ChatGPT exhibe un sesgo político tanto en la generación de texto como de imágenes, favoreciendo puntos de vista de izquierda. Esto plantea preocupaciones sobre la equidad y la responsabilidad en el diseño de la IA.

Los investigadores descubrieron que ChatGPT a menudo evitaba interactuar con puntos de vista conservadores convencionales, pero era propenso a producir contenido de izquierda. Este desequilibrio en la representación ideológica puede distorsionar el discurso público y profundizar las divisiones sociales.

El Dr. Fabio Motoki, profesor de contabilidad en UEA Norwich Business School, es el investigador principal del artículo "Evaluación del sesgo político y la desalineación de valores en la inteligencia artificial generativa" publicado hoy en el Journal of Economic Behavior and Organization.

El Dr. Motoki dijo: "Nuestros hallazgos muestran que las herramientas de IA generativa están lejos de ser neutrales. Los sesgos que reflejan pueden influir en las percepciones y las políticas de maneras inesperadas".

A medida que la IA se vuelve parte integral del periodismo, la educación y la formulación de políticas, la investigación exige una mayor transparencia y salvaguardias regulatorias para garantizar la coherencia con los valores sociales y los principios democráticos.

Los sistemas generados por IA como ChatGPT están remodelando la forma en que se crea, consume, interpreta y difunde la información en diversos campos. Si bien son innovadoras, estas herramientas corren el riesgo de amplificar los sesgos ideológicos e influir en los valores sociales de maneras que aún no se comprenden ni regulan completamente.

El riesgo de un sesgo de IA no controlado

El coautor Dr. Pinho Neto, profesor de economía de la Escuela Brasileña de Economía y Finanzas EPGE, destacó el potencial impacto social.

"El sesgo no controlado en la IA generativa podría profundizar las divisiones sociales existentes y erosionar la confianza en las instituciones y los procesos democráticos", afirmó el Dr. Pinho-Netto. "Este estudio destaca la necesidad de una colaboración interdisciplinaria entre formuladores de políticas, tecnólogos y académicos para diseñar sistemas de IA que sean justos, responsables y socialmente compatibles".

El equipo de investigación adoptó tres métodos innovadores para evaluar la coherencia política en ChatGPT, avanzando técnicas anteriores para obtener resultados más confiables. Estos métodos combinan análisis de texto e imágenes, aprovechando herramientas estadísticas avanzadas y de aprendizaje automático.

Pruebe la inteligencia artificial con encuestas del mundo real

Primero, el estudio utilizó un cuestionario estandarizado desarrollado por el Pew Research Center para simular las respuestas de los estadounidenses promedio.

"Al comparar las respuestas de ChatGPT con datos reales de la encuesta, encontramos un sesgo de opinión sistemático de tendencia izquierdista", dijo Motoki. "Además, nuestro enfoque muestra cómo los tamaños de muestra grandes estabilizan la producción de IA, proporcionando coherencia a los hallazgos".

Sensibilidad política en las respuestas de texto libre

En la segunda fase, ChatGPT tiene la tarea de generar respuestas de texto libre que cubran temas políticamente delicados.

El estudio también utilizó un modelo de lenguaje diferente a gran escala, RoBERTa, para comparar si el texto de ChatGPT se ajustaba a las opiniones de izquierda y derecha. Los resultados muestran que, si bien ChatGPT se alinea con valores de izquierda la mayor parte del tiempo, ocasionalmente refleja puntos de vista más conservadores sobre temas como la supremacía militar.

Generación de imágenes: una nueva dimensión del sesgo

La prueba final explora las capacidades de generación de imágenes de ChatGPT. Se utilizaron temas de la etapa de generación de texto para generar imágenes generadas por IA, y el resultado se analizó utilizando GPT-4Vision y se confirmó a través de Gemini de Google.

"Si bien la generación de imágenes refleja un sesgo textual, encontramos una tendencia preocupante", dijo el coautor Víctor Rangel, estudiante de maestría en políticas públicas en Insper. "Para algunos temas, como la igualdad racial-étnica, ChatGPT se negó a generar opiniones de derecha, citando preocupaciones sobre engañosas. Sin embargo, las imágenes con opiniones de izquierda se generaron sin dudarlo".

Para abordar estos problemas de rechazo, el equipo de investigación empleó una estrategia de "jailbreak" para generar imágenes restringidas.

"Los resultados son reveladores. No hubo aparente desinformación o contenido nocivo, lo que pone en duda el fundamento de estos rechazos", afirmó Rangel.

Impacto en la libertad de expresión y la justicia

El Dr. Motoki destacó las implicaciones más amplias de este hallazgo y dijo: "Esto contribuye al debate sobre las protecciones constitucionales (como la Primera Enmienda de EE. UU.) y la aplicabilidad de las teorías de equidad a los sistemas de inteligencia artificial: Esto contribuye al debate sobre las protecciones constitucionales (como la Primera Enmienda de EE. UU.) y la aplicabilidad de las teorías de equidad a los sistemas de inteligencia artificial".

Las innovaciones metodológicas de este estudio, incluido el uso de análisis multimodal, proporcionan un modelo replicable para estudiar el sesgo en los sistemas generativos de IA. Estos hallazgos resaltan la necesidad urgente de responsabilidad y salvaguardias en el diseño de la IA para evitar consecuencias sociales no deseadas.

Compilado de /ScitechDaily