Recientemente, Demis Hassabis, fundador de DeepMind, admitió que la superinteligencia artificial desarrollada por él corre el riesgo de exterminar a la humanidad. La actual competencia por el desarrollo de la IA ha entrado en un estado imparable y es difícil para los humanos controlarla eficazmente mediante métodos de gobernanza externa.Abandonó por completo la idea anterior de depender de comités de ética y sistemas para restringir la IA y admitió que sería difícil que la estructura de gobierno desempeñara un papel en las decisiones clave, y que solo podía confiar en sí mismo para obtener el derecho a hablar y controlar la dirección de la seguridad de la IA.

Hassabis siempre ha sido un firme defensor de la seguridad de la IA. En sus primeros años, imaginó la creación de una superinteligencia absolutamente segura mediante supervisión independiente e investigación y desarrollo secretos.


Cuando DeepMind se vendió a Google en 2014, también requirió explícitamente la conservación del poder de toma de decisiones independiente sobre la seguridad de la IA, el establecimiento de un comité de supervisión externo y la prohibición de aplicaciones militares.

Sin embargo, estos conceptos de seguridad fracasaron uno tras otro. Después de asistir a reuniones relevantes, Musk se dedicó a fundar OpenAI, rompiendo la idea de que un solo sujeto controle la IA. Las negociaciones posteriores sobre gobernanza con Google también terminaron en fracaso.

La aparición de ChatGPT en 2022 ha alterado por completo el ritmo de la investigación y el desarrollo de la IA.Google cayó en la ansiedad competitiva, DeepMind se fusionó con Google Brain, las regulaciones de seguridad dieron paso a la velocidad de la investigación y el desarrollo y las líneas de defensa de seguridad anteriores fallaron gradualmente.

Hassabis ha llegado así a comprender la realidad. Bajo la presión de la competencia empresarial y tecnológica, el mecanismo de gobernanza de las organizaciones sin fines de lucro que depende de los gigantes empresariales tendrá dificultades para sobrevivir.

Ahora Hassabis ha cambiado de opinión. Su propuesta principal es permitirse ocupar la posición central de toma de decisiones y controlar la dirección de la tecnología en nodos clave con asombro por los riesgos de la IA.

Mientras promueve el desarrollo de modelos como Gemini, se adhiere al principio de seguridad y trata de utilizar su influencia personal para reducir el riesgo de que la IA se desboque.

Los analistas de la industria creen que este cambio refleja la cruel situación actual de la competencia mundial de la IA. Es difícil lograr una gobernanza unificada, la ventana de seguridad de la IA sigue estrechándose y la humanidad se enfrenta a enormes desafíos relacionados con la supervivencia de la civilización.