Un estudio experimental publicado recientemente por investigadores de Francia e Italia muestra que confiar excesivamente en los consejos proporcionados por la inteligencia artificial (IA) puede inhibir el pensamiento crítico humano, haciendo que las personas sean más proclives a aceptar ciegamente información errónea proporcionada por la IA cuando se enfrentan a problemas inciertos, en lugar de admitir que "no saben".
Valerio Capraro, profesor asociado de la Universidad de Milán-Bicocca, y sus colaboradores realizaron el estudio para explorar cómo las recomendaciones de la IA afectan la disposición de los humanos a admitir su ignorancia. Los investigadores diseñaron especialmente una serie de preguntas detalladas impopulares sobre películas y televisión que generalmente son difíciles de responder para modelos de lenguaje grandes, y reclutaron sujetos para experimentos comparativos. En una serie de experimentos, los sujetos respondieron preguntas sin ayuda de la IA; en otra serie de experimentos, los sujetos tuvieron acceso a sugerencias de la IA.
El estudio encontró que en el grupo de referencia sin asistencia de IA, el 44% de los participantes pudieron elegir honestamente "no sé" y, por lo tanto, optar por suspender el juicio; sin embargo, en el grupo que recibió sugerencias de IA, esta proporción se desplomó al 3%. Lo que es aún más preocupante es que la intervención de la IA no sólo no logró mejorar el rendimiento, sino que también provocó una disminución de la precisión: sin la ayuda de la IA, el 27% de los sujetos dieron la respuesta correcta; pero cuando la IA proporcionó sugerencias, la precisión cayó al 9% porque los participantes confiaron demasiado en las respuestas de la IA.
Además, los resultados experimentales mostraron que la asistencia de la IA mejoró significativamente la confianza en sí mismos de los sujetos. Sin IA, la confianza promedio de los sujetos fue del 30%; Con la ayuda de la IA, la confianza de los sujetos se disparó al 76%, incluso cuando se enfrentaron a información incorrecta. Los investigadores señalaron que los participantes renunciaron a juzgar los límites de su propio conocimiento frente a la IA, a pesar de que la información que obtuvieron fue a menudo una "ilusión" producida por la IA.
Los investigadores también probaron si esto mejoraba cuando se daban incentivos monetarios. Los resultados mostraron que, aunque la disposición a admitir la ignorancia se recuperó ligeramente del 3% al 8%, y la tasa de precisión también aumentó del 9% al 16%, estos dos indicadores seguían siendo muy inferiores a los del grupo de referencia.
Capraro afirmó que admitir el "no saber" es una manifestación importante de las limitaciones de la comprensión humana del autoconocimiento, y la pérdida de esta capacidad es un problema que necesita solución urgente a nivel social. Enfatizó que la intervención en este fenómeno no debe depender únicamente de los proveedores de modelos, ya que sus incentivos comerciales no necesariamente están alineados con la promoción del pensamiento crítico. Él cree que un camino más ideal es abordarlo a través de políticas educativas y alfabetización en IA, especialmente para la próxima generación que crece con estos sistemas y tal vez no pueda aprender habilidades críticas básicas. Esta cuestión es particularmente digna de atención.