Resumen:
Expertos en los campos de seguridad nacional, política científica y tecnológica e inteligencia artificial de Estados Unidos y China propusieron recientemente conjuntamente una propuesta que llama la atención, abogando por aprovechar la experiencia de gestión de la seguridad nuclear de la Guerra Fría para establecer un mecanismo de seguridad similar al del campo de las armas nucleares para los sistemas avanzados de inteligencia artificial que puedan aparecer en el futuro, con el fin de reducir los riesgos causados por la pérdida de control tecnológico, los errores de juicio y la escalada de la competencia internacional.
Esta sugerencia aparece en el resultado de una investigación formada después de discusiones entre expertos de ambos países. El informe cree que a medida que las capacidades de inteligencia artificial continúan mejorando rápidamente, los países han comenzado a enfrentar algunos problemas similares a los de la era nuclear temprana, es decir, una tecnología con un enorme impacto potencial se está desarrollando rápidamente, pero las reglas internacionales correspondientes, los canales de comunicación y los sistemas de control de riesgos aún no se han establecido completamente.
Los expertos que participaron en el estudio señalaron que en el futuro, sistemas de inteligencia artificial más potentes pueden desempeñar un papel cada vez más importante en áreas como la seguridad de redes, el mando militar, el análisis de inteligencia, la investigación biotecnológica y la gestión de infraestructuras críticas. Una vez que estos sistemas se comportan inesperadamente, se explotan maliciosamente o se implementan incorrectamente, su impacto puede traspasar las fronteras nacionales y afectar el entorno de seguridad global.
Con este fin, el informe recomienda que China y Estados Unidos hagan referencia a su experiencia histórica en el manejo de riesgos nucleares y establezcan gradualmente un mecanismo de seguridad multinivel. Estos incluyen fortalecer el intercambio de información, establecer canales de comunicación de crisis, colaborar en evaluaciones de riesgos tecnológicos y explorar regímenes de pruebas de transparencia y seguridad para sistemas de inteligencia artificial de última generación.
Los expertos creen que, aunque la inteligencia artificial y las armas nucleares no son lo mismo, ambas tienen una gran importancia estratégica e implican competencia internacional y cuestiones de seguridad global. Por lo tanto, suele ser más eficaz establecer un marco de protección por adelantado cuando la tecnología se encuentra en la etapa de rápido desarrollo que esperar hasta que los riesgos estén completamente expuestos antes de tomar medidas.
El informe también enfatiza particularmente que el mayor peligro en el futuro puede no provenir de la inteligencia artificial en sí, sino de errores de juicio causados por la desconfianza entre países. Por ejemplo, cuando una parte no puede determinar con precisión qué capacidades está desarrollando la otra y en qué nivel, es más probable que reaccione exageradamente, malinterprete o incluso intensifique la competencia.
Por lo tanto, algunos expertos propusieron que se deberían explorar canales de comunicación similares al "mecanismo de línea directa" durante la Guerra Fría para permitir a los países mantener un contacto inmediato cuando ocurren eventos importantes que involucran inteligencia artificial y evitar crisis de seguridad innecesarias causadas por la asimetría de la información.
Al mismo tiempo, los investigadores creen que debería establecerse un mecanismo de revisión de seguridad más estricto para el entrenamiento y el despliegue de los modelos de inteligencia artificial más avanzados. En el futuro, es posible que algunos sistemas con capacidades extremadamente altas deban someterse a pruebas independientes y supervisión continua, y establecer un sistema de notificación de comportamientos anormales para detectar riesgos potenciales lo antes posible.
El informe señala que el actual sistema global de gobernanza de la inteligencia artificial aún se encuentra en sus primeras etapas. Aunque los países han introducido diferentes políticas regulatorias y normas industriales, todavía existen brechas obvias a nivel de colaboración transfronteriza. La velocidad de desarrollo de la tecnología de inteligencia artificial se está acelerando, lo que significa que es posible que la ventana para la cooperación internacional no exista durante mucho tiempo.
Los expertos que participaron en el debate creyeron en general que China y Estados Unidos, como los dos actores más importantes en el campo global de la inteligencia artificial, tienen responsabilidades especiales en la gestión de riesgos. Si ambas partes pueden llegar a un mayor consenso sobre los estándares de seguridad, la evaluación de riesgos y la comunicación de crisis, ayudará a reducir la posibilidad de que se produzcan incidentes técnicos importantes de seguridad en el futuro.
Sin embargo, los expertos también admiten que promover dicha cooperación no es fácil en el actual entorno internacional. La competencia tecnológica, las consideraciones de seguridad nacional y los intereses industriales influirán en el proceso de discusión relevante. Por lo tanto, prefieren comenzar en áreas relativamente pragmáticas como la gestión de riesgos y la protección de la seguridad, en lugar de buscar acuerdos regulatorios integrales desde el principio.
Los analistas señalaron que este informe refleja el debate cambiante sobre la gobernanza de la inteligencia artificial. En el pasado, la atención de todas las partes se centraba más en la privacidad, los derechos de autor y los impactos en el empleo, pero ahora cada vez más expertos están comenzando a centrar su atención en cuestiones de seguridad a largo plazo y estabilidad estratégica global.
A medida que las capacidades de inteligencia artificial continúan mejorando, cómo establecer un mecanismo de seguridad eficaz manteniendo al mismo tiempo la vitalidad de la innovación se está convirtiendo en un nuevo tema que enfrentan la comunidad mundial de ciencia y tecnología y los círculos políticos. Aprovechar la experiencia en gestión de riesgos acumulada en la era nuclear puede convertirse en una dirección de referencia importante para el futuro marco de gobernanza de la inteligencia artificial.
Comentarios