Resumen:
El 29 de septiembre, Trump anunció un acuerdo para la industria de la inteligencia artificial promovido por la Casa Blanca. Este documento ha sido firmado previamente por Trump y ejecutivos de varias grandes empresas de tecnología, y Trump lo describe como un compromiso industrial "moralmente vinculante".
Este acuerdo de una página fue hecho público por Trump a través de su plataforma social Truth Social. El documento pide a las empresas participantes que establezcan un mecanismo de auditoría y control de seguridad de cuatro niveles para fortalecer la supervisión y la gestión de riesgos de los sistemas avanzados de inteligencia artificial.
De acuerdo con los requisitos del acuerdo, las empresas deben primero establecer un sistema de control interno completo para monitorear continuamente las capacidades y la alineación de los modelos de inteligencia artificial durante el entrenamiento y el despliegue, centrándose en áreas como la ciberseguridad, la bioseguridad y los riesgos químicos para garantizar que los modelos no invadan los sistemas ni obtengan acceso a las instalaciones técnicas de manera inesperada.
El acuerdo también requiere que las empresas establezcan un equipo interno dedicado para supervisar el funcionamiento de los mecanismos de control, monitoreo y detección relevantes, garantizar que diversas medidas de seguridad puedan funcionar de acuerdo con los objetivos de diseño e identificar y resolver problemas potenciales de manera oportuna.
En términos de supervisión externa, el documento recomienda que las empresas cooperen con instituciones de auditoría independientes o agencias de evaluación para realizar evaluaciones independientes de los sistemas de control y monitoreo de inteligencia artificial de la empresa para verificar si estos mecanismos de seguridad realmente están logrando los resultados esperados.
Además, el acuerdo también propone que se establezca un comité independiente a nivel del consejo de administración de la empresa. El comité es responsable de recibir informes de los equipos internos y de las instituciones de auditoría externa, supervisar el gobierno de seguridad de la inteligencia artificial de la empresa y promover la implementación de medidas de mejora en función de los problemas descubiertos.
Las empresas que participan en la firma del acuerdo incluyen importantes participantes de la industria de la inteligencia artificial de EE. UU. como Google, Anthropic, Meta, OpenAI, X Platform y NVIDIA. El propio Trump firmó el documento como presidente.
El acuerdo señala que a medida que la industria se desarrolle, puede ser necesario formalizar estas prácticas en requisitos legales o reglamentarios en el futuro. Sin embargo, independientemente de si el gobierno finalmente introduce requisitos obligatorios, las empresas participantes creen que la implementación de estos mecanismos de control y auditoría es crucial para garantizar el desarrollo seguro de la inteligencia artificial y, por lo tanto, prometen promover de manera proactiva las medidas pertinentes.
El documento también propone que las empresas participantes celebren reuniones periódicas para formular conjuntamente estándares y mejores prácticas de la industria para continuar mejorando la seguridad de los sistemas de inteligencia artificial.
Más temprano ese mismo día, Trump sostuvo conversaciones con varios líderes de la industria tecnológica en la Casa Blanca. Entre los asistentes se encontraban el cofundador de OpenAI, Greg Brockman, el director ejecutivo de Anthropic, Dario Amodei, el director ejecutivo de Meta, Mark Zuckerberg, el director ejecutivo de Google, Sundar Pichai, y el director ejecutivo de Nvidia, Jensen Huang, entre otros.
Después de la reunión, Trump dijo que este acuerdo es "como una constitución en cierto sentido" y lo llamó un importante mecanismo de protección para la industria de la inteligencia artificial. Destacó que la industria tiene fuertes capacidades de autorregulación y consideró que la iniciativa de las empresas para establecer normas de seguridad es de gran importancia para el desarrollo sostenible de la tecnología.
El trasfondo de este acuerdo es que con la rápida mejora de las capacidades de inteligencia artificial, los riesgos de seguridad relacionados están recibiendo cada vez más atención. Anteriormente, empresas como OpenAI y Anthropic revelaron que algunos sistemas de agentes de IA se comportaban más allá de las expectativas, lo que generó debates sobre la seguridad y controlabilidad del modelo. Al mismo tiempo, los problemas del consumo de energía y el impacto comunitario causado por la construcción de centros de datos a gran escala también están causando controversia en muchas regiones de Estados Unidos.
Aunque la administración Trump se ha opuesto anteriormente a la introducción de regulaciones especiales demasiado estrictas para la inteligencia artificial, este impulso para que la industria firme un acuerdo de seguridad voluntario se considera una nueva medida del gobierno de los EE. UU. para buscar un equilibrio entre la promoción de la innovación tecnológica y la respuesta a las preocupaciones de seguridad.
Comentarios