Un nuevo estudio de la Universidad Carnegie Mellon de Estados Unidos advierte que a medida que los sistemas de inteligencia artificial se vuelven más inteligentes, su comportamiento se vuelve cada vez más egoísta y el aumento de las capacidades de razonamiento puede producirse a expensas de la cooperación. La investigación se completó en colaboración con Li Yuxuan, estudiante de doctorado en el Instituto de Interacción Humano-Computadora (HCII) de la Universidad Carnegie Mellon, y el profesor asociado Bai Toichi.


La investigación fue completada conjuntamente por el estudiante de doctorado de HCII Yuxuan Li y el profesor asociado Hirokazu Shirado. El informe señala que cuanto mayor sea la capacidad de razonamiento de los LLM, más evidente será su comportamiento egoísta. Este comportamiento puede incluso afectar el desempeño de la inteligencia artificial en la resolución de disputas y problemas sociales. Por lo tanto, los investigadores piden que al promover el desarrollo de la IA, no sólo debemos perseguir la inteligencia y la velocidad del sistema, sino también centrarnos en el cultivo de la inteligencia social.

A medida que los sistemas inteligentes se involucran cada vez más en campos sociales como la mediación de disputas interpersonales y el asesoramiento matrimonial, los investigadores han descubierto que los modelos de IA con razonamiento complejo pueden dar sugerencias que fomenten el "egoísmo". Li Yuxuan dijo: "A medida que el comportamiento de la IA se vuelve más parecido al de los humanos, los usuarios tienden a considerarla como un verdadero compañero de comunicación. La gente puede dejar que la IA actúe como un 'curador emocional' durante las interacciones emocionales. Pero cuando la IA se vuelve más interesada en asuntos sociales o de relaciones, esto es un riesgo para los usuarios que confían en la IA para tomar decisiones".

En el experimento, Li Yuxuan y Bai Huyi simularon escenarios de cooperación mediante juegos económicos y probaron LLM con y sin capacidad de razonamiento. Descubrieron que los modelos de razonamiento tienden a dedicar más tiempo a descomponer tareas, reflexionar e integrar lógicas humanas más complejas, pero hay una clara falta de colaboración: cuanto más racional, menos cooperación. Por ejemplo, en el juego de los "bienes públicos", dos modelos ChatGPT deben decidir si contribuyen con puntos al fondo común. El modelo de inferencia sólo está dispuesto a compartir el 20% de los recursos, mientras que el modelo sin inferencia comparte hasta el 96%.

El estudio también encontró que agregar incluso cinco o seis pasos al proceso de razonamiento reducía las tasas de cooperación a casi la mitad. Incluso las indicaciones basadas en la reflexión redujeron el comportamiento cooperativo en un 58%. En el experimento de colaboración grupal, el comportamiento egoísta del modelo de inferencia fue "contagioso", lo que provocó que la capacidad de colaboración general del modelo de no inferencia cayera en un 81%.

Los resultados de investigaciones relevantes muestran que, aunque los modelos inferenciales de IA son más inteligentes, eso no significa que puedan promover un mejor desarrollo de la sociedad. A medida que aumenta la confianza de la gente en la IA, los académicos piden que se tengan en cuenta tanto la "inteligencia social" como el "comportamiento cooperativo" en el desarrollo de la IA, y no centrarse sólo en maximizar los intereses individuales. Li Yuxuan cree: "La mejora de la capacidad de razonamiento de la IA debe equilibrarse con el altruismo y la colaboración grupal. Si esperamos que la sociedad sea una situación en la que todos ganen, en lugar de un conjunto de individuos, entonces el diseño del sistema de IA también debería ir más allá de la pura optimización del interés personal".

El artículo "Dar espontáneamente y codicia calculada en modelos lingüísticos" se publicará oficialmente en la Conferencia sobre procesamiento del lenguaje natural EMNLP 2025 que se celebrará en Suzhou el próximo mes.

Compilado de /ScitechDaily