Resumen:
Después de encontrar fuertes protestas por parte de casi 800 matemáticos de la comunidad académica que firmaron una carta abierta, el gigante de la inteligencia artificial OpenAI anunció que ha retirado oficialmente su patrocinio y soporte informático para el Hackathon de Matemáticas de IA (Mathathon) del Instituto de Tecnología de California (Caltech). Esta competencia universitaria, originalmente programada para el 30 de octubre, fue acusada de transformar la investigación rigurosa de matemáticas puras en un espectáculo promocional para empresas comerciales de inteligencia artificial y de generar mucho ruido académico no probado. Desencadenó una rara tormenta de reacciones violentas en los círculos académicos más importantes y también puso al copatrocinador Anthropic en un acalorado debate sobre si quedarse o quedarse.
Originalmente se planeó que el evento hackathon llamado "Caltech Mathathon" contara con el respaldo de dos laboratorios de inteligencia artificial de vanguardia, OpenAI y Anthropic, con un total de aproximadamente 2 millones de dólares estadounidenses en puntos de energía informática. El organizador tiene como objetivo organizar a los estudiantes universitarios y jóvenes investigadores participantes para que intenten resolver problemas matemáticos de frontera abierta no resueltos ingresando palabras clave en los modelos de lenguaje de frontera grande más avanzados de las dos compañías. Sin embargo, luego de que se anunció el plan de actividades, fue inmediatamente condenado por la comunidad académica. Los académicos actuales y anteriores de matemáticas de Caltech tomaron la iniciativa de lanzar una carta pública de protesta, que rápidamente obtuvo firmas de hasta 771 matemáticos de todo el mundo.
La carta abierta criticaba sin rodeos que las empresas comerciales de IA están utilizando investigaciones matemáticas puras extremadamente serias como "oportunidades de publicidad y marketing" baratas, y advertía que tales actividades de hackathon caracterizadas por una acumulación violenta de potencia informática "muy probablemente causarán un daño devastador a la comunidad matemática". Los académicos señalaron en la carta que las llamadas pruebas largas generadas por modelos grandes a menudo están llenas de "basura matemática de IA (AI slop)" que parece cumplir pero en realidad es difícil de verificar. Esto no sólo obliga a la comunidad académica a gastar una gran cantidad de energía valiosa en la revisión por pares para comprobar manualmente si hay resultados falsos, sino que también crea un riesgo moral para que los patrocinadores utilicen la potencia informática para robar la verdadera sabiduría de estudiantes universitarios destacados.
Ante la feroz resistencia de la comunidad académica, Dan Roberts, jefe de investigación de OpenAI, confirmó públicamente la retirada del patrocinio y afirmó en las redes sociales que la empresa se ha dado cuenta profundamente de que el rápido progreso de la IA en el campo de las matemáticas ha tenido un impacto severo. En el futuro se espera tener un diálogo y comunicación más profundos con la comunidad matemática tradicional en términos de integración de esta tecnología y transmisión de su impacto social. Como copatrocinador, Anthropic aún no ha respondido positivamente sobre si dará seguimiento a su retirada. Su silencio ha provocado una mayor comparación y observación de las posiciones de expansión académica de los dos laboratorios.
Vale la pena señalar que este retiro de patrocinio se produce durante un período sensible en el que la credibilidad de los gigantes comerciales de la IA en la comunidad matemática está pasando por una dura prueba. Antes de esto, OpenAI estuvo involucrado en una controversia generalizada por afirmar haber resuelto los problemas de existencia y suavidad de la ecuación de Navier-Stokes a través de decenas de miles de agentes de IA trabajando juntos durante 88 horas. Al mismo tiempo, se reveló que se sospechaba que la agencia había presionado a un matemático de la Universidad de Nueva York para que eliminara a los coautores con antecedentes antrópicos de otro importante artículo sobre matemáticas, lo que desencadenó una feroz batalla entre la ética académica y la atribución de resultados predatorios.
Los observadores académicos señalan que las matemáticas siempre han sido la piedra de toque definitiva para medir el razonamiento lógico y el rigor formal, y también son el campo de batalla central para que los laboratorios de IA compitan por el derecho a hablar sobre las capacidades de los modelos de próxima generación. Sin embargo, la resistencia grupal encontrada por el Caltech Hackathon muestra claramente que la producción de modelos impulsada por el poder de computación puramente de ingeniería y las relaciones públicas, si se separa de las estrictas normas de verificación y la confianza mutua de los pares de la comunidad académica tradicional, en última instancia será difícil cruzar la profunda brecha de la legitimidad académica. La retirada forzosa de OpenAI no es sólo un revés para la reputación pública, sino también una llamada de atención para las reglas de colaboración entre toda la industria de la inteligencia artificial y la investigación científica fundamental.
Comentarios