Resumen:
Aunque Estados Unidos y China tienen competencia estratégica en muchos campos, según informes de los medios tecnológicos, Estados Unidos está tratando de establecer un mecanismo de notificación de seguridad con China para emitir alertas tempranas entre sí en caso de incidentes peligrosos de inteligencia artificial que puedan representar graves amenazas a la seguridad nacional.
Esta idea fue propuesta conjuntamente por el Atlantic Council y Security Exploration International. El objetivo principal de este mecanismo es garantizar que los dos países puedan comunicarse entre sí de manera oportuna antes de que incidentes graves de seguridad de inteligencia artificial se conviertan en crisis geopolíticas o conflictos militares mediante el establecimiento de canales especiales de alerta temprana. El informe señaló que debido a la rápida evolución de la tecnología de inteligencia artificial, es muy probable que los sistemas automatizados causen consecuencias inesperadas y graves sin control humano directo, por lo que establecer tales puentes de comunicación es crucial.
Según la propuesta, el mecanismo de notificación se centra en cuatro categorías principales de escenarios de alto riesgo:
Primero, el sistema autónomo de IA pierde el control y causa graves daños en el mundo real;
En segundo lugar, los accidentes de seguridad de la IA que involucran armas de destrucción masiva como armas nucleares, armas químicas o armas biológicas;
En tercer lugar, la filtración accidental de modelos de IA de alto riesgo o tecnologías centrales relacionadas;
En cuarto lugar, los ataques a redes de IA a gran escala tienen como objetivo infraestructuras críticas y causan golpes devastadores.
El análisis de expertos señaló que la idea de establecer este mecanismo es muy similar a la "línea roja" de llamada telefónica directa establecida por Estados Unidos y la Unión Soviética durante la Guerra Fría para evitar el estallido de una guerra nuclear. Aunque las empresas de tecnología y las instituciones de investigación en China y Estados Unidos ya han mantenido un diálogo preliminar sobre los estándares de seguridad de la IA y la gestión de riesgos, si esta cooperación puede elevarse formalmente a un mecanismo de seguridad a nivel gubernamental, sin duda reducirá significativamente el riesgo de grandes crisis internacionales causadas por errores de juicio técnicos y brindará un apoyo importante para la gobernanza global de la IA.
Comentarios