Resumen:
A medida que la competencia en inteligencia artificial continúa aumentando, China y Estados Unidos están tratando de establecer un nuevo mecanismo de coordinación de seguridad. Según el último acuerdo alcanzado entre las dos partes, China y Estados Unidos acordaron establecer un canal de comunicación bilateral dirigido específicamente a los riesgos de la "Superinteligencia" (SI) para fortalecer el futuro intercambio de información y la gestión de riesgos en el campo de la inteligencia artificial de vanguardia.
Este acuerdo se considera uno de los resultados importantes del reciente diálogo chino-estadounidense sobre inteligencia artificial. Según información publicada por Estados Unidos, las dos partes continuarán promoviendo la construcción de mecanismos relevantes en los próximos meses y planean celebrar una reunión de seguimiento del recién establecido "Diálogo de Súper Inteligencia entre China y Estados Unidos" antes de noviembre.
El trasfondo del establecimiento de este mecanismo es que las capacidades de inteligencia artificial están evolucionando a una velocidad sin precedentes. A medida que siguen surgiendo grandes modelos cada vez más poderosos y agentes autónomos de IA, los gobiernos están cada vez más preocupados por la ciberseguridad, la protección de la infraestructura crítica y los riesgos que pueden plantear los futuros sistemas superinteligentes.
De hecho, China y Estados Unidos han estado en contacto sobre cuestiones de seguridad de la inteligencia artificial durante varios meses. Ya este verano, las dos partes comenzaron a preparar un mecanismo especial de diálogo sobre IA y a discutir temas como los riesgos de los modelos de vanguardia, la prevención de ciberataques y la futura cooperación regulatoria.
Según información divulgada anteriormente, Estados Unidos siempre ha esperado establecer un sistema de comunicación y alerta temprana para ciberataques impulsados por IA y promover grandes laboratorios de IA para que asuman más responsabilidad en cuestiones de seguridad. Al mismo tiempo, China también considera la cooperación en inteligencia artificial como un tema importante en las relaciones bilaterales y espera mantener canales de diálogo en el campo técnico.
Los expertos de la industria señalaron que, a diferencia de negociaciones pasadas sobre comercio, aranceles o campos tecnológicos tradicionales, el foco de esta discusión se ha centrado en el posible surgimiento de sistemas superinteligentes en el futuro. La llamada superinteligencia suele referirse a un sistema de inteligencia artificial cuyas capacidades superan el nivel de los expertos humanos en múltiples campos. Muchas instituciones de investigación lo consideran una de las direcciones de desarrollo tecnológico más notables en las próximas diez o décadas.
A medida que las capacidades de los modelos de vanguardia continúan mejorando, los países están cada vez más preocupados de que los sistemas relevantes puedan usarse para lanzar ciberataques complejos, manipular infraestructura crítica, automatizar actividades de inteligencia o producir otros impactos impredecibles en la seguridad. Por lo tanto, fortalecer los mecanismos de comunicación se considera una medida importante para reducir los errores de juicio y mejorar las capacidades de gestión de riesgos.
Estados Unidos declaró que el nuevo mecanismo proporcionará un canal dedicado para el intercambio de información entre las dos partes y ayudará a los dos países a mantener la comunicación ante incidentes potencialmente importantes de IA. Los analistas creen que este acuerdo es similar hasta cierto punto al mecanismo de comunicación de crisis establecido en el campo de la seguridad nuclear en el pasado, excepto que el enfoque ha pasado de los riesgos militares tradicionales a los nuevos desafíos planteados por la inteligencia artificial.
Al mismo tiempo, este desarrollo también se considera una señal de relajación limitada en la relación de inteligencia artificial entre China y Estados Unidos. En los últimos años, la competencia entre las dos partes ha aumentado en cuestiones como los controles de exportación de chips, las capacidades informáticas avanzadas y el desarrollo de tecnología de inteligencia artificial. El establecimiento de un mecanismo de diálogo formal esta vez demuestra que ambas partes todavía creen que la comunicación en ciertas áreas es realmente necesaria.
Sin embargo, los mecanismos pertinentes no significan que los dos países desacelerarán las cuestiones de competencia tecnológica. En general, la industria cree que China y Estados Unidos seguirán compitiendo ferozmente en los campos de investigación y desarrollo de inteligencia artificial, chips avanzados, centros de datos e infraestructura informática en el futuro. Pero al mismo tiempo, ambas partes han comenzado a darse cuenta de que a medida que la inteligencia artificial se acerca gradualmente al umbral de las capacidades críticas, es de interés común establecer un canal de comunicación de riesgo mínimo.
Para la industria global de la inteligencia artificial, este acuerdo tiene cierto significado simbólico. A medida que más y más países comienzan a discutir cómo gestionar sistemas de IA más potentes en el futuro, China y Estados Unidos, las dos principales potencias de IA, han establecido por primera vez un mecanismo de comunicación formal en torno a la "superinteligencia", lo que indica que la gobernanza de la seguridad de la inteligencia artificial está comenzando a pasar de las discusiones teóricas a la etapa de coordinación internacional.
Aunque aún está por verse cómo funcionará el mecanismo futuro, a medida que la competencia global de IA continúa acelerándose, China y Estados Unidos han enviado una señal clara: incluso si la competencia continuará, es necesario mantener canales de diálogo en torno a los riesgos de la superinteligencia.
Comentarios