Resumen:
Las tensiones entre OpenAI y la comunidad matemática han vuelto a aumentar. Terence Tao, ganador de la medalla Fields, volvió a publicar recientemente una declaración emitida por la Asociación para las Matemáticas Humanas (AHM) en su blog personal, criticando a OpenAI por ignorar las normas de investigación en la comunidad matemática y pidiendo a los matemáticos que dejen de cooperar con ella. La controversia surge de un lote de manuscritos de investigación matemática publicados por OpenAI. Su modelo interno intentó resolver alrededor de 4.000 problemas matemáticos y finalmente compiló materiales de investigación que involucraron 372 conjuntos de resultados y reveló algunos códigos de prueba formales Lean.
Sin embargo, la escala de los resultados no ha sido reconocida unánimemente por la comunidad académica. Lo que les importa a los matemáticos no es sólo si la prueba es correcta, sino también si la derivación puede entenderse, si se citan trabajos anteriores en su totalidad y si se pueden integrar nuevos métodos al sistema de conocimiento existente a través de la discusión entre pares.
La verificación formal puede verificar la derivación lógica, pero no puede reemplazar automáticamente la revisión manual del significado de la proposición, la contribución a la investigación y la formación académica. "La publicación de más de 700 documentos al mismo tiempo demuestra no una investigación académica, sino poder", dice el comunicado.
Dana Moshkovitz, una científica informática teórica que ha estado profundamente involucrada en la conjetura del juego único durante mucho tiempo, estudió inmediatamente los artículos relevantes publicados por OpenAI y dijo que estaban llenos de estructuras incomprensibles, pasos de razonamiento poco claros y referencias bibliográficas confusas. Scott Aaronson, científico informático teórico de la Universidad de Texas en Austin, describió el día del lanzamiento de OpenAI como “el apocalipsis de las matemáticas”.
Algunos internautas creen que las opiniones de Terence Tao son demasiado extremas y no deberían bloquear el desarrollo de tecnología que podría beneficiar a todos. Bryna Kra, matemática de la Universidad Northwestern, cree que se espera que la IA ayude a los investigadores a explorar problemas que eran difíciles de resolver en el pasado, pero las empresas deberían publicar sus resultados de una manera que sea más consistente con los estándares académicos para que sus pares puedan verificar, comprender y continuar la investigación.
El núcleo del conflicto entre las dos partes es la brecha entre la velocidad con la que la IA genera resultados y la comprensión humana. La investigación matemática tradicional requiere una explicación gradual de las pruebas y la mejora de los métodos a través de artículos, seminarios e intercambios entre pares; cuando los laboratorios comerciales publican cientos de manuscritos complejos a la vez, los costos de verificación, revisión e integración de conocimientos posteriores pueden transferirse a la comunidad académica. Por lo tanto, las agendas de investigación, las cadencias de publicación y los recursos modelo están cada vez más influenciados por un puñado de empresas de tecnología.
Esta controversia no surgió de repente. Terence Tao firmó previamente una declaración con otros 24 ganadores de la Medalla Fields, advirtiendo a las empresas de inteligencia artificial que el uso de problemas matemáticos como punto de referencia para las capacidades del modelo puede desviar la competencia tecnológica de la intención original de buscar comprensión y conocimientos en la investigación matemática.
El 29 de septiembre, el Grupo Asesor sobre Matemáticas e Inteligencia Artificial (AGMAI) emitió recomendaciones oponiéndose claramente a que los laboratorios de IA de vanguardia utilicen modelos internos que son inaccesibles para el mundo exterior para probar problemas matemáticos difíciles.
OpenAI declaró que este lanzamiento se basó en las recomendaciones de AGMAI; AHM creía que la empresa ignoraba la premisa central de las recomendaciones y, por lo tanto, pidió a los matemáticos que dejaran de cooperar con OpenAI. Además, la AGMAI también exige a los laboratorios que no utilicen la publicación de resultados matemáticos como herramienta de marketing para promocionar modelos. Las publicaciones relacionadas deben revelar información como nombres de modelos, palabras clave, costos de energía informática y registros de fallas.
A medida que la IA continúa mejorando sus capacidades de producción de investigación científica, la comunidad matemática ya no se enfrenta a la cuestión de si las máquinas pueden probar teoremas, sino también a quién decide la dirección de la investigación, quién corre con el costo de la verificación y cómo garantizar que el progreso tecnológico siga sirviendo a la acumulación de conocimiento.
Comentarios