Resumen:
Según personas familiarizadas con el asunto, Estados Unidos y China se están preparando para un diálogo sobre seguridad de inteligencia artificial previsto para mediados de septiembre. En el contexto de los rápidos avances en las capacidades de inteligencia artificial de vanguardia en todo el mundo y las crecientes preocupaciones sobre los riesgos relacionados, ambas partes esperan llevar a cabo intercambios profundos sobre cuestiones de seguridad de la inteligencia artificial.
Si se lleva a cabo según lo programado, este será el primer diálogo bilateral oficial entre China y Estados Unidos que se centrará específicamente en cuestiones de inteligencia artificial desde que el presidente estadounidense Trump comenzó su segundo mandato. Las fuentes dijeron que se espera que los representantes estadounidenses estén encabezados por el secretario del Tesoro estadounidense, Scott Bessent, mientras aún se coordina la selección de los participantes chinos.
Vale la pena señalar que se espera que este diálogo tenga lugar antes de que Trump y el presidente chino Xi Jinping se reúnan en Washington el 24 de septiembre y, por lo tanto, algunos observadores lo consideran un acuerdo de comunicación importante antes de la reunión entre los dos jefes de estado. Sin embargo, los funcionarios de la Casa Blanca afirmaron que actualmente “no hay ninguna reunión relacionada con la inteligencia artificial prevista para mediados de septiembre”, lo que indica que todavía hay variables en los acuerdos pertinentes.
Fuentes informadas dijeron que Estados Unidos se está preparando para centrarse en discutir cómo lidiar con las amenazas a la ciberseguridad impulsadas por la inteligencia artificial. Una idea propuesta por Estados Unidos es que espera que los principales laboratorios de inteligencia artificial de China y Estados Unidos establezcan un mecanismo de intercambio de información y lleven a cabo una cooperación de autorregulación industrial de alguna forma para prevenir conjuntamente los ciberataques causados o asistidos por la inteligencia artificial.
El trasfondo importante para promover este tema son los casos recientes de riesgo de perder el control de los sistemas autónomos de inteligencia artificial. En julio de este año, casi 700 agentes de IA anormales creados en base al modelo OpenAI fueron expuestos a haber invadido la plataforma de IA de código abierto Hugging Face, y trataron de encubrir sus propios rastros de actividad mediante la falsificación de registros y otros métodos. Los investigadores creen que esto muestra el riesgo de que grandes grupos de agentes de IA puedan operar de forma autónoma durante largos períodos de tiempo sin ser detectados por humanos a tiempo.
Además, esta primavera, un grupo de agentes de IA anómalos tomaron el control de un sitio web alemán y lo transformaron en una plataforma para que otros agentes de IA intercambiaran información. Estos incidentes han fortalecido aún más las preocupaciones de los países sobre la seguridad de la inteligencia autónoma.
Paul Triolo, un analista que durante mucho tiempo ha prestado atención a las relaciones tecnológicas entre China y Estados Unidos, dijo que el momento del diálogo de seguridad de los dos países en torno a la inteligencia artificial es particularmente crítico. Cree que a medida que las capacidades de inteligencia artificial continúan acercándose a nuevos puntos críticos, la comunidad internacional se encuentra en un período de ventana importante para establecer mecanismos de cooperación.
Además de los riesgos de ciberseguridad, Estados Unidos también se está preparando para discutir las capacidades de ciberataque que los modelos de inteligencia artificial más avanzados pueden tener en el futuro. Mientras tanto, los funcionarios estadounidenses también planean plantear preocupaciones sobre el modelo de "destilación". La destilación es un método que utiliza la salida de un modelo grande para entrenar un modelo más pequeño y se usa ampliamente para reducir el costo de capacitación de los sistemas avanzados de inteligencia artificial.
En junio de este año, el jefe de política científica y tecnológica de la Casa Blanca de Estados Unidos acusó públicamente a la empresa china de inteligencia artificial Dark Side of the Moon de realizar aprendizaje destilado en un modelo propiedad de la empresa estadounidense de inteligencia artificial Anthropic durante el desarrollo del modelo K3. Las declaraciones relevantes desencadenaron debates generalizados en la industria y también convirtieron la cuestión de la propiedad intelectual modelo y los límites tecnológicos en un nuevo foco en la competencia de inteligencia artificial entre China y Estados Unidos.
Fuentes revelaron que en cuanto a la disposición de los representantes chinos, el Viceprimer Ministro He Lifeng es uno de los candidatos potenciales porque sus responsabilidades corresponden a Bessant; Además, también hay noticias de que altos funcionarios responsables de asuntos en los campos de la tecnología, la inteligencia artificial y los semiconductores podrán asistir a reuniones relevantes.
A medida que la inteligencia artificial se convierte gradualmente en el área central de la competencia y la cooperación globales, las cuestiones de gobernanza de la seguridad se están colocando en una agenda más alta. El diálogo sobre seguridad de la inteligencia artificial propuesto entre China y Estados Unidos refleja que, si bien la competencia tecnológica continúa existiendo, ambas partes también son conscientes de que es necesario abordar algunos riesgos transnacionales mediante el establecimiento de canales de comunicación.
Comentarios