Resumen:
Según el informe británico "Financial Times", el cofundador de Google DeepMind y científico jefe de AGI, Shane Legg, advirtió recientemente que las capacidades de inteligencia artificial están mejorando rápidamente, pero el desarrollo de capacidades de IA no debe exceder el nivel de garantía de seguridad. También refutó las opiniones del presidente de OpenAI, Greg Brockman, y del director ejecutivo de Nvidia, Jensen Huang, de que "AGI ha llegado".
Legg dijo que la velocidad actual de desarrollo de las capacidades de IA es "muy, muy rápida" y la industria no puede permitir que las capacidades avancen antes que las medidas de seguridad. Con respecto a la reciente sugerencia hecha por el CEO de Anthropic, Dario Amodei, de ralentizar el lanzamiento de modelos de vanguardia por razones de seguridad, pero no suspender por completo la investigación y el desarrollo, Legg cree que esta dirección es "digna de consideración", pero todas las partes aún deben discutir seriamente los métodos de implementación específicos.
Legg hizo la declaración anterior cuando DeepMind lanzó oficialmente el Instituto DeepMind para estudiar el despliegue de la inteligencia artificial general y su impacto en la ciencia, la educación, la sociedad, las políticas, la filosofía y el bienestar humano. Según la definición de DeepMind, AGI es un sistema de inteligencia artificial que tiene todas las capacidades cognitivas del cerebro humano.
A pesar de la reciente mejora significativa en las capacidades del modelo de IA, Legg cree que todavía es demasiado pronto para declarar que se ha realizado AGI. Dijo que todavía se apega a su predicción anterior de que la probabilidad de alcanzar un "AGI mínimo" para 2028 es del 50%. Legg también fue uno de los primeros en acuñar el término "AGI".
Después de que OpenAI lanzara GPT-6 Astra, Brockman declaró que "ahora hemos entrado en la era AGI". Huang Renxun también dijo que "AGI ha llegado" y se basa en las capacidades de Astra.
Legg dijo que incluso si diferentes organizaciones tienen diferentes definiciones de AGI, no está claro si Astra cumple con los propios estándares de OpenAI. OpenAI definió previamente AGI como capaz de completar la mayoría de las tareas cognitivas de valor económico. Legg dijo que estos modelos son realmente capaces de completar algunas tareas impresionantes, pero en su opinión, sus capacidades aún no han alcanzado la definición de AGI de OpenAI.
El Instituto DeepMind está codirigido por Legg, el presidente de DeepMind, Demis Hassabis, y el vicepresidente senior de Google, James Manica. Legg dijo que ahora se necesita un debate social más amplio a medida que el público comienza a tomar en serio la posibilidad de una inteligencia general poderosa. El instituto transformará la investigación técnica de DeepMind en más contenido que el público pueda entender, al tiempo que invitará a expertos externos a participar en las discusiones.
El instituto publicó los primeros tres artículos sobre temas que incluyen la seguridad de la IA, la política económica y los principios del "nuevo utopismo". Uno de los artículos, escrito por los investigadores de DeepMind, Rohin Shah y Ankar Dragan, señaló con el dedo la velocidad de lanzamiento de GPT-6 Astra.
Dos investigadores creen que Astra muestra una "preocupante tendencia a la baja" en la transparencia de su proceso de razonamiento. Las presiones competitivas sobre las empresas de IA pueden socavar sus incentivos para una mayor transparencia, y la regulación podría desempeñar un papel en esta cuestión.
Sin embargo, el artículo cree que mientras se agreguen mecanismos para garantizar la transparencia a la etapa de diseño del modelo, la industria aún puede continuar desarrollando modelos más capaces. Los investigadores señalaron que los modelos de razonamiento más avanzados en la actualidad pueden mostrar parte del proceso de razonamiento de una manera que los humanos puedan entender, lo que proporciona una ventana poco común para que el mundo exterior observe y estudie el comportamiento de la IA.
Manica dijo que sólo hay una competencia de IA en la que Google espera participar, y es la competencia para hacer bien esta tecnología.
Comentarios