Resumen:
El ganador de la medalla Fields y famoso matemático Terence Tao emitió recientemente una advertencia sobre la creciente dependencia de la humanidad de la inteligencia artificial. Le preocupa que a medida que las personas gradualmente traspasen sus procesos de pensamiento y resolución de problemas a la IA, los humanos estén perdiendo la comprensión de los problemas mismos y sus soluciones, y esta tendencia pronto pueda tener graves consecuencias en el mundo real.
Estos comentarios provienen del discurso de Terence Tao en la Cumbre Ciencia x IA celebrada en la Universidad de California, Los Ángeles, el 16 de octubre. La Fundación para la Investigación de la Ciencia y la Inteligencia Artificial (SAIR, por sus siglas en inglés) lanzó recientemente un video del discurso completo titulado "Math 2.0" en YouTube, y los clips relevantes posteriormente atrajeron la atención en la plataforma social extranjera X.
"Confiamos nuestro pensamiento a la IA y dejamos que ella resuelva los problemas por nosotros. Pero al mismo tiempo, también estamos perdiendo una garantía: no podemos estar seguros de si la solución proporcionada por la IA es realmente la que queremos". Tao Zhexuan dijo: "Estoy realmente preocupado de que pronto veamos las consecuencias de esto en el mundo real. En realidad, esta es una preocupación que tengo fuera del campo de las matemáticas".
Tao Zhexuan señaló que el progreso de la inteligencia artificial en el campo de las matemáticas está cambiando la forma tradicional de resolver problemas. En el pasado, para resolver problemas complejos, los matemáticos necesitaban estudiar y comprender teorías relevantes durante mucho tiempo y acumular nuevos conocimientos en el proceso. Pero hoy en día, la IA puede dar respuestas rápidamente, pero es posible que los humanos no puedan comprender el proceso de razonamiento detrás de las respuestas.
Él cree que el riesgo de tales cambios es relativamente controlable en el campo de las matemáticas puras, porque las pruebas matemáticas generalmente pueden verificarse mediante herramientas formales. Pero cuando se utiliza el mismo enfoque en el mundo real, la situación se vuelve mucho más complicada.
Tao Zhexuan mencionó específicamente los campos de la red eléctrica, el control del tráfico aéreo, la investigación y el desarrollo de fármacos y el diseño de chips. Le preocupa que en el futuro las personas puedan entregar directamente problemas complejos a la IA para su procesamiento, pero carezcan de una comprensión completa del modelo subyacente y de las limitaciones del mundo real.
En este caso, la solución dada por la IA puede estar completamente establecida en el modelo matemático, pero no satisface las necesidades reales del mundo real. La IA puede incluso encontrar lagunas o condiciones límite en el modelo, cumpliendo indicadores superficiales y al mismo tiempo desviándose de los objetivos que los humanos esperaban alcanzar originalmente.
Tao Zhexuan enfatizó que el problema no radica en la tecnología de IA en sí, sino en cómo los humanos usan la IA. Aboga por promover la investigación matemática en la llamada era "Matemáticas 2.0", para que la IA no sólo pueda ayudar a los humanos a resolver problemas, sino también mejorar la comprensión humana de los problemas y ayudar a los investigadores a identificar las limitaciones y los riesgos potenciales de los modelos.
El 22 de octubre, Terence Tao también publicó un artículo en la revista Nature, pidiendo a la comunidad matemática que reexamine los objetivos de la investigación en la era de la IA. Señaló que la investigación matemática se enfrenta a nuevos desafíos a medida que la IA genera pruebas matemáticas más rápido de lo que los humanos pueden entender y digerir estos resultados.
Tao Zhexuan cree que las herramientas de inteligencia artificial tienen el potencial de mejorar la comprensión humana, pero esto requiere cambios en los métodos de investigación y los mecanismos de incentivos. Lo que realmente es necesario conservar en la era de la IA no es sólo la capacidad de obtener respuestas correctas, sino también la capacidad humana de comprender, probar y juzgar las respuestas.
Comentarios