Resumen:
OpenAI anunció recientemente el establecimiento de un grupo asesor independiente compuesto por los mejores matemáticos para brindar asesoramiento a OpenAI y otras empresas de IA sobre la relación entre la inteligencia artificial y la investigación matemática. La nueva organización, llamada Grupo Asesor en Matemáticas e Inteligencia Artificial (AGMAI), se centrará en cómo se deben revisar, publicar y difundir los resultados matemáticos producidos por la IA, y cómo las empresas de IA deben seguir normas académicas y profesionales de larga data en el campo de la investigación matemática.
Esta medida se produjo después de que OpenAI anunciara recientemente una serie de resultados matemáticos importantes. En los últimos meses, los modelos de IA de OpenAI han realizado una serie de desarrollos llamativos en el campo de las matemáticas. Sin embargo, la forma en que se publican los resultados relevantes y las cuestiones de citación y atribución de investigaciones matemáticas existentes también han desencadenado una controversia generalizada en la comunidad matemática. Algunos matemáticos se preguntan si OpenAI comprende plenamente cómo funciona la investigación matemática y si las empresas de IA respetan las normas establecidas desde hace mucho tiempo de atribución, prioridad y comunicación académica en la comunidad matemática.
AGMAI tiene un total de nueve miembros, que provienen de la Universidad de Stanford, la Universidad de Harvard, la Universidad de Oxford, la Universidad de Cambridge y otras instituciones, incluidos muchos académicos destacados en el campo de las matemáticas y ganadores de la Medalla Fields y la "beca genio" MacArthur. La organización será organizada por el Instituto de Estudios Avanzados de Princeton, Nueva Jersey, EE.UU. Alguna vez fue el sitio de investigación de científicos famosos como Albert Einstein, John von Neumann y J. Robert Oppenheimer. También es una de las instituciones académicas más influyentes en el campo de la investigación matemática moderna.
OpenAI declaró que esta organización seguirá siendo independiente y tiene el poder de proporcionar sugerencias de manera proactiva a OpenAI, incluso si OpenAI no propone las sugerencias relevantes de manera proactiva. El grupo asesor también puede discutir abiertamente el impacto de la IA en el campo de las matemáticas y decidir, a su propia discreción, si hace públicas sus recomendaciones. OpenAI declaró que los miembros del grupo asesor no recibirán compensación de OpenAI y pueden ajustar ellos mismos la composición de la membresía.
Según OpenAI, el grupo asesor ayudará a la empresa a determinar qué tan significativos son los nuevos resultados matemáticos generados por la IA y brindará opiniones sobre cómo coordinar la publicación de estos resultados y cómo cumplir con las normas académicas y profesionales para la investigación matemática. Además, el grupo discutirá cómo las herramientas de inteligencia artificial de OpenAI pueden respaldar mejor la investigación y la educación matemáticas.
OpenAI enfatiza que el valor real de esta organización depende de si los miembros pueden emitir juicios independientes y cuestionar la empresa. En otras palabras, el grupo asesor no simplemente respalda los resultados de la investigación de OpenAI, sino que espera brindar opiniones independientes de la comunidad matemática antes de que se publiquen los resultados.
Sin embargo, tras el anuncio de este acuerdo, todavía quedan muchas preguntas en la comunidad matemática. La primera es cómo se seleccionaron exactamente estos nueve miembros. Simon Machado, investigador del Instituto Federal Suizo de Tecnología en Zúrich, cree que todavía quedan muchos aspectos oscuros en todo el proceso. Según la introducción en el sitio web oficial de AGMAI, OpenAI inicialmente se puso en contacto con algunos matemáticos con la esperanza de establecer un comité asesor externo; Después de conversaciones con OpenAI, estos matemáticos finalmente decidieron establecer una organización independiente e invitaron a otros miembros a unirse. Pero no se ha revelado completamente quién fue contactado inicialmente por OpenAI y cómo se identificaron los miembros restantes.
Martin Hairer, miembro del grupo asesor, publicó posteriormente un artículo para explicar la gran cantidad de dudas que rodean el proceso de formación de esta organización. Dijo que la inteligencia artificial ha tenido un profundo impacto en la investigación matemática y ha planteado una serie de cuestiones como la atribución de resultados, las prioridades de investigación y si los humanos realmente comprenden las ideas matemáticas generadas por la IA. Por lo tanto, no sería realista que la comunidad matemática adoptara un enfoque completamente sin contacto con los laboratorios de IA y simplemente ignorara a estas empresas.
Hairer enfatizó particularmente que, aunque el establecimiento del grupo asesor surgió del contacto con OpenAI, OpenAI no había contactado directamente a los nueve miembros, y la organización finalmente establecida era independiente de OpenAI y otras empresas de IA de vanguardia. Más allá de los requisitos normales de confidencialidad, los miembros no firman acuerdos que restrinjan su expresión pública de opiniones y no reciben compensación financiera de OpenAI. La organización depende principalmente del Instituto de Estudios Avanzados de Princeton para obtener apoyo técnico y organizativo.
Hairer dijo que el objetivo más importante del grupo asesor es representar los intereses de toda la comunidad matemática tanto como sea posible. También reconoció que es obviamente imposible que nueve matemáticos sean un representante completo de toda la comunidad matemática, pero creía que todos los miembros tomaban esta responsabilidad muy en serio y participarían con buena fe y criterio independiente.
El pequeño tamaño del panel asesor también plantea otro nivel de preocupación. Las matemáticas modernas se han vuelto altamente especializadas y, a menudo, existen barreras de conocimiento muy obvias entre los diferentes campos. Incluso los mejores matemáticos del mundo tal vez no sean capaces de juzgar los resultados de la IA en otro campo altamente especializado. Por lo tanto, a algunos matemáticos les preocupa si sólo nueve académicos destacados pueden cubrir todo el campo de investigación matemática que puede implicar la IA.
Francesco Fournier-Facio, profesor entrante de matemáticas en la Universidad Heriot-Watt en Escocia, dijo que tiene una actitud mixta hacia el grupo asesor. Por un lado, cree que permitir que las empresas de IA se comuniquen más con los matemáticos obviamente ayudará a mejorar el status quo; por otro lado, también cuestiona si esta organización compuesta por un pequeño número de académicos de primer nivel puede realmente representar al gran número de investigadores de matemáticas que se están viendo afectados por el rápido desarrollo de la IA. Considera que actualmente la organización parece más bien una "torre de marfil" compuesta por altas figuras académicas.
Que el grupo asesor pueda ganarse la confianza de la comunidad matemática en el futuro depende en gran medida del impacto real que pueda tener en OpenAI. Vale la pena señalar especialmente que cuando OpenAI anunció el establecimiento de un grupo asesor, también reveló una noticia sorprendente: un nuevo modelo que la compañía está desarrollando y que aún no se ha lanzado oficialmente, que anteriormente se afirmaba que había resuelto el problema del Premio Navier-Stokes Millennium, ahora ha resuelto más de 100 problemas matemáticos sin resolver a largo plazo, y estos problemas se distribuyen en una gran cantidad de campos diferentes de las matemáticas.
OpenAI ha anunciado previamente que el modelo está desafiando otro problema del Premio del Milenio. A medida que los modelos de IA continúan produciendo nuevos resultados matemáticos, cómo revisar, verificar, organizar y publicar una gran cantidad de resultados de investigación en un corto período de tiempo se ha convertido en un verdadero problema. AGMAI declaró en su sitio web oficial que una de las primeras tareas que enfrenta actualmente es ayudar a OpenAI a coordinar la publicación de una gran cantidad de resultados matemáticos importantes generados por modelos internos de IA.
Esto también explica por qué se creó este grupo asesor en este momento. En los últimos meses, los continuos avances de OpenAI en el campo de las matemáticas deberían haber sido una demostración importante de la mejora de las capacidades de la inteligencia artificial, pero los eventos relacionados han ido acompañados de una serie de controversias. Algunos matemáticos creen que cuando OpenAI anunció sus resultados, no explicó completamente la contribución de investigaciones humanas anteriores a los resultados de la IA, y no siempre manejó las citas y las cuestiones prioritarias de una manera familiar para la comunidad matemática. Algunos investigadores incluso han acusado a OpenAI de hacer uso de los resultados de su investigación sin darles el crédito adecuado.
Estas controversias finalmente llevaron a algunos matemáticos a cuestionar si OpenAI realmente entiende cómo opera la comunidad de investigación matemática.
Kevin Buzzard, profesor de matemáticas en el Imperial College de Londres, preguntó: Dado que ha habido mucho debate público en la comunidad matemática en los últimos meses, las demandas de los matemáticos para que la IA participe en la investigación matemática se han expresado claramente, entonces, ¿por qué OpenAI necesita un comité compuesto por los mejores matemáticos del mundo para comprender estos problemas? En su opinión, el problema no es que la comunidad matemática carezca de personas que puedan resolver teoremas difíciles, sino que las empresas de IA necesitan comprender mejor la disciplina de las matemáticas y las reglas de la propia comunidad de investigación matemática.
AGMAI actualmente está recopilando aportes de la comunidad matemática, incluso a través de intercambios con otros matemáticos, formularios de comentarios públicos y plataformas de discusión como Proofs and Prompts. Estas plataformas se han convertido recientemente en lugares importantes para discutir el impacto de la inteligencia artificial en la comunidad matemática.
Al mismo tiempo, los problemas que enfrenta OpenAI han ido mucho más allá de cómo publicar unos pocos artículos. A medida que la IA comienza a producir de forma independiente resultados matemáticos que no se han resuelto durante mucho tiempo, es necesario redefinir las preguntas más básicas de la investigación matemática, como "quién descubrió qué primero", "quién debería obtener la firma" y "qué investigación humana proporcionó la base para los resultados finales".
Este es también un cambio fundamental provocado por la entrada actual de la IA en el campo de la investigación matemática. La investigación matemática tradicional generalmente se basa en que los investigadores publiquen artículos, citando trabajos anteriores, revisiones por pares y aprovechando constantemente los resultados existentes. La IA puede leer y procesar cantidades masivas de conocimiento existente en muy poco tiempo y generar nuevas derivaciones matemáticas. Cuando los humanos no pueden rastrear completamente los caminos a través de los cuales la IA obtiene un resultado, los métodos tradicionales de atribución de resultados y juicio de prioridad se vuelven más complicados.
La reciente controversia en torno a la solución de OpenAI al problema de Navier-Stokes ha puesto de relieve especialmente esta cuestión. OpenAI ha investigado la controversia relevante y afirmó que era poco probable que una palabra rápida enviada por un matemático usando Codex afectara la solución final del sistema al problema. Sin embargo, estos incidentes todavía preocupan a algunos matemáticos. En el futuro, puede resultar cada vez más difícil determinar con precisión en qué tipo de investigación humana se basa un resultado matemático producido por la IA.
Hairer, miembro de AGMAI, también admitió que el grupo asesor debe tener cuidado de que las empresas de IA puedan interpretar o utilizar las opiniones del grupo asesor de acuerdo con sus propias necesidades de relaciones públicas. Sin embargo, cree que después de que la IA haya entrado inevitablemente en la investigación matemática, negarse por completo a comunicarse con las empresas de IA no resolverá el problema. En lugar de aislar a la comunidad matemática de la industria de la IA, deberíamos intentar establecer un conjunto de reglas básicas que ambas partes puedan aceptar.
Para OpenAI, el establecimiento de este grupo asesor también significa que la empresa se enfrenta a una realidad con la que no estaba familiarizada antes: la inteligencia artificial se ha transformado gradualmente de una herramienta auxiliar para la investigación matemática a un participante de la investigación que puede producir directamente nuevos resultados matemáticos, y la comunidad matemática tradicional no ha establecido reglas preparadas para este cambio.
En el futuro, es posible que AGMAI deba resolver no solo cuándo y cómo se debe publicar el próximo lote de resultados matemáticos de OpenAI, sino también cómo se deben firmar los resultados matemáticos generados por IA, cómo citar la investigación humana, cómo confirmar la independencia de los resultados y qué tipo de relación de cooperación se debe establecer entre los matemáticos y los sistemas de IA. OpenAI afirma que su nuevo modelo ha resuelto más de 100 problemas matemáticos sin resolver desde hace mucho tiempo, y estos problemas están pasando rápidamente de discusiones teóricas a problemas de la vida real que deben enfrentarse.
Comentarios