Resumen:
Con el salto exponencial en las capacidades de los sistemas de inteligencia artificial de vanguardia y el avance acelerado de la tecnología de inteligencia artificial general (AGI), el equipo de investigación de Google y su institución de investigación y desarrollo de inteligencia artificial Google DeepMind anunciaron recientemente oficialmente el establecimiento del "Instituto DeepMind". La organización tiene como objetivo construir una plataforma de diálogo global que reúna fuerzas interdisciplinarias y perspectivas diversas para ampliar la dimensión de los debates públicos sobre los límites de seguridad de AGI, los mecanismos de gobernanza social y la distribución inclusiva de dividendos.
En el contexto de la rápida evolución de la IA generativa y los agentes autónomos (Agentes de IA), los debates sobre cuándo se realizará la AGI y cómo controlar los riesgos han evolucionado desde deducciones académicas hasta cuestiones centrales de la política mundial de ciencia y tecnología. Sin embargo, durante mucho tiempo, los debates importantes en torno a la inteligencia artificial general a menudo han sido monopolizados por un puñado de ingenieros, inversores y tomadores de decisiones a puertas cerradas en los principales laboratorios de Silicon Valley. La participación externa en el impacto social a largo plazo de la evolución tecnológica, los cambios en las estructuras laborales y el equilibrio de intereses interregionales es todavía limitada. El establecimiento del Instituto de Investigación DeepMind tiene como objetivo precisamente romper este contexto cerrado de élite técnica e introducir voces globales más diversas.
Se informa que el instituto recién creado está dirigido conjuntamente por varios líderes de alto nivel y académicos de primer nivel, incluido el cofundador de DeepMind y científico jefe de AGI, Shane Legg. Como uno de los pioneros tecnológicos clave que definió tempranamente el concepto de AGI, Legg ha abogado durante mucho tiempo por el establecimiento de marcos éticos y de evaluación de seguridad con visión de futuro, al tiempo que promueve avances en la potencia informática y los algoritmos. El nuevo instituto se basará en investigaciones interdisciplinarias, que no solo absorberán los conocimientos de científicos informáticos y expertos cognitivos, sino que también conectarán ampliamente a economistas, científicos sociales, expertos legales, formuladores de políticas y representantes de organizaciones de la sociedad civil para estudiar y juzgar conjuntamente el impacto sistémico que la superinteligencia puede causar.
En la agenda específica de investigación y acción, DeepMind Research Institute planea centrarse en tres áreas centrales: primero, la teoría de control y verificación de seguridad AGI desde la dimensión técnica, explorando mecanismos para abordar escenarios de seguridad extremos, como el descarrilamiento de agentes autónomos y fallas de alineación; en segundo lugar, una gobernanza inclusiva y justa de la tecnología de vanguardia, estudiando cómo garantizar el futuro de la AGI. La enorme productividad y el valor económico creado pueden ser ampliamente compartidos por toda la humanidad, en lugar de exacerbar las brechas geográficas y de clase; tercero, promover el diálogo regulatorio global y ayudar a las agencias públicas de toma de decisiones en varios países a construir una base de gobernanza que tenga en cuenta la innovación tecnológica y la prevención de riesgos.
Los analistas de la industria señalaron que en un momento en que los principales gigantes de la IA están acelerando en general la comercialización de grandes modelos de vanguardia y la carrera armamentista de potencia informática, Google DeepMind decidió tomar la iniciativa en el establecimiento de una plataforma independiente de debate académico y político, lo que demuestra un reexamen de la responsabilidad social a largo plazo de la IA de vanguardia. Al impulsar el debate sobre AGI de una moda tecnológica única a un diálogo inclusivo, racional y multidimensional en toda la sociedad, se espera que la agencia proporcione importantes proyectos ideológicos y apoyo a grupos de expertos para la implementación del cumplimiento y la gobernanza global de futuras tecnologías superinteligentes.
Comentarios