Resumen:
El presidente de Microsoft, Brad Smith, recientemente pidió una vez más a los países que aceleren la regulación de la inteligencia artificial y enfatizó que la supervisión actual de las empresas de inteligencia artificial ni siquiera es tan fuerte como la de productos de consumo como la leche y las lavadoras. Cree que con la rápida mejora de las capacidades de inteligencia artificial, el mundo ha llegado a un momento crítico para formular reglas de seguridad unificadas.
En una entrevista con el BBC Podcast, Smith describió la inteligencia artificial como "tanto una herramienta como un arma". Dijo que la inteligencia artificial está trayendo nuevos riesgos al entorno de seguridad de la red global, por lo que es necesario establecer un marco regulatorio de seguridad internacional y limitar el desarrollo de la industria a través de reglas claras.
Smith señaló específicamente que el Reino Unido es más adecuado para desempeñar un papel de liderazgo que los Estados Unidos y la Unión Europea en el futuro sistema global de gobernanza de la seguridad de la inteligencia artificial. Él cree que el Instituto Británico de Seguridad de Inteligencia Artificial (AISI) se ha desarrollado rápidamente desde su creación en 2023 y se ha convertido en una fuerza importante en el campo de las pruebas de seguridad de inteligencia artificial global. La agencia pudo obtener acceso a nuevos modelos en laboratorios estadounidenses de vanguardia y realizar evaluaciones de seguridad independientes antes de su implementación oficial.
Sin embargo, este estatus ha enfrentado desafíos recientemente. El presidente de Estados Unidos, Donald Trump, ha criticado anteriormente las llamadas instituciones "globalistas", argumentando que están interfiriendo con las empresas estadounidenses. Según informes de los medios, Trump pidió el mes pasado a Anthropic y OpenAI que suspendieran el suministro de nuevos modelos a las instituciones de prueba británicas hasta que Estados Unidos complete su revisión. Pero el Instituto de Seguridad de IA del Reino Unido confirmó esta semana que todavía puede acceder y probar la última generación de modelos de IA.
A pesar del escepticismo del gobierno estadounidense, Smith todavía cree que Gran Bretaña tiene una ventaja única. Dijo que a los ojos de los círculos de toma de decisiones en Washington, el Reino Unido y Londres no serán considerados fuerzas regulatorias fuertes como la sede de la UE en Bruselas, pero esto ayudará al Reino Unido a desempeñar un papel de coordinación entre la comunidad internacional y promover el consenso entre todas las partes.
Los comentarios de Smith se producen cuando cada vez más líderes de la industria tecnológica piden reducir el ritmo del desarrollo de la inteligencia artificial. El director ejecutivo de Anthropic, Dario Amodei, y el director ejecutivo de OpenAI, Sam Altman, entre otros, han expresado públicamente recientemente su preocupación por los riesgos de la inteligencia artificial avanzada. Múltiples incidentes de comportamiento anormal en sistemas de agentes de inteligencia artificial han intensificado aún más la preocupación del mundo exterior por los problemas de seguridad.
En octubre de este año, Trump también convocó a ejecutivos de OpenAI, Anthropic, NVIDIA, AMD, SpaceX, Meta y Google en la Casa Blanca para discutir cuestiones de seguridad de la inteligencia artificial. Las empresas que participaron en la conferencia firmaron lo que se describió como un acuerdo "éticamente vinculante", comprometiéndose a cooperar con auditores independientes para evaluar las capacidades y la seguridad de los modelos de inteligencia artificial.
Para este acuerdo, Smith cree que es un paso positivo, pero todavía hay una brecha entre una supervisión verdaderamente efectiva. Señaló que la autorregulación voluntaria de la industria a menudo sólo restringe a las empresas responsables, y la verdadera preocupación son aquellas empresas que no están dispuestas a cumplir las normas.
Smith también propuso una serie de medidas de seguridad que le gustaría ver. Por ejemplo, cuando los sistemas empresariales son invadidos por agentes de inteligencia artificial fuera de control, los organismos pertinentes deberían asumir obligaciones legales de emitir alertas oportunas; los laboratorios de inteligencia artificial deben ser revisados por agencias de evaluación externas independientes antes de lanzar nuevos productos; Al mismo tiempo, la industria también debería estudiar mecanismos como "interruptores de parada de emergencia" para pausar o ralentizar el funcionamiento de los sistemas de inteligencia artificial cuando los humanos pierden el control.
Al hablar sobre la futura dirección de la gobernanza, Smith pidió a todas las partes promover la cooperación con una actitud más racional y pragmática. Expresó la esperanza de que Microsoft pueda formar parte del consenso global y que el Reino Unido pueda desempeñar un papel de puente y liderazgo en el sistema internacional de gobernanza de la seguridad de la inteligencia artificial.
Artículos relacionados:
Brad Smith, presidente de Microsoft: la IA está incluso menos regulada que la leche
Comentarios