Diez premios Nobel y dos exjefes de Estado pidieron recientemente conjuntamente a todos los países que establezcan "líneas rojas" para el desarrollo de la inteligencia artificial (IA) antes de finales de 2026 para promover la gestión y el control de riesgos a nivel internacional. La declaración fue emitida conjuntamente por más de 200 firmantes, incluidos altos empleados de OpenAI, Google DeepMind y Anthropic.
La declaración enfatizó que cuestiones como las pandemias de ingeniería y los riesgos de desempleo que pueden ser causados por la IA han atraído una atención global generalizada, y muchos expertos han advertido que puede ser difícil implementar un control humano efectivo de los sistemas de IA en los próximos años.
Este llamado coincide con la convocatoria de la Asamblea General de las Naciones Unidas y es de gran importancia para promover el consenso global. Sin embargo, debido a la oposición de Estados Unidos, se espera que sea difícil promover medidas específicas de gobernanza en el corto plazo. Los firmantes incluyen a Hinton, Bengio, el "economista" Stiglitz, un conocido académico en el campo de la IA, el ex presidente colombiano Santos, la ex presidenta irlandesa Mary Robinson, la ex primera ministra italiana Letta, así como muchos ex ministros de gobierno, científicos y diplomáticos. Cabe mencionar que el actor Stephen Fry también está en la lista. El cofundador de OpenAI, Wojciech Zaremba, el científico jefe de DeepMind, Ian Goodfellow, y otros ejecutivos de empresas de tecnología también participaron en la firma, pero no se vio a ningún director ejecutivo de las tres empresas unirse.
El comunicado señaló que algunos sistemas avanzados de IA han demostrado comportamientos engañosos y dañinos, pero estos sistemas están ganando más autonomía y son capaces de emprender acciones y tomar decisiones en el mundo real. Por lo tanto, el establecimiento de acuerdos internacionales claramente definidos y verificables sobre “líneas rojas” se ha convertido en una medida necesaria para prevenir riesgos inaceptables. Los firmantes esperan que estas líneas rojas se apliquen a finales de 2026 y vayan acompañadas de un mecanismo de aplicación.
Aunque la declaración no enumera específicamente las líneas rojas para la gobernanza de la IA, otro documento del año pasado recomendó prohibir que la IA se replique de forma autónoma, busque poder, lance ciberataques automáticamente y "comportamiento de sacos de arena". La propuesta también cuenta con el apoyo de muchos científicos chinos, como Zhang Yaqin, ex presidente de Baidu, y Huang Tiejun, presidente de la Sociedad de Inteligencia Artificial de Beijing.
Además, las Naciones Unidas han anunciado recientemente que establecerán un Comité Asesor Científico Internacional de IA (similar al Panel Intergubernamental sobre Cambio Climático IPCC) y un mecanismo de diálogo sobre la gobernanza global de la IA, dando un paso importante hacia la gobernanza global de la IA. Sin embargo, debido a la actitud negativa del gobierno estadounidense, el avance de acciones relevantes aún enfrenta resistencia. Según el "Plan de acción de IA de Estados Unidos" publicado por la administración Trump en julio de este año, aunque Estados Unidos expresa su apoyo a la cooperación con países de ideas afines para desarrollar la IA, se opone claramente a la "regulación excesiva", reglas de comportamiento vagas basadas en agendas culturales y planes de gobernanza en los que participan empresas chinas. A principios de este mes, el senador estadounidense Ted Cruz dijo que uno de los “pilares” para que el Congreso promulgue la regulación de la IA es “luchar contra la excesiva regulación extranjera”.
No obstante, la declaración muestra que la preocupación global sobre el potencial y los riesgos de la IA continúa creciendo. Korosi, ex Presidente de la Asamblea General de las Naciones Unidas, señaló en sus comentarios: "La humanidad nunca se ha encontrado con una inteligencia superior a ella en la historia, y en los próximos años, la humanidad enfrentará tal desafío".