Resumen:
El gobernador del Banco de Inglaterra, Andrew Bailey, se ha sumado a quienes advierten sobre los riesgos globales que plantea la tecnología de inteligencia artificial de última generación. Bailey actualmente se desempeña como presidente del Consejo Internacional de Estabilidad Financiera. En una carta de dos páginas enviada a los ministros de finanzas y gobernadores de bancos centrales internacionales, dijo que los modelos de inteligencia artificial "de vanguardia" están demostrando "una autonomía y una capacidad de resolución de problemas cada vez más sofisticadas, así como la capacidad de lanzar amenazas".
Advirtió que estos modelos podrían desbaratar el sistema financiero global altamente interconectado a través de una disrupción cibernética que "puede extenderse a diferentes jurisdicciones".
Antes de la reunión de esta semana de ministros de finanzas y gobernadores de bancos centrales del G20 en Carolina del Norte, EE. UU., Bailey escribió a los participantes: "Los acontecimientos recientes también me han llamado la atención sobre el hecho de que muchas jurisdicciones aún no han establecido protocolos para regir el desarrollo, lanzamiento y despliegue de modelos avanzados de inteligencia artificial de vanguardia, lo que exacerba los riesgos que enfrenta el sector financiero y el campo en general".
En las últimas semanas, muchos expertos en tecnología de renombre han estado haciendo sonar la alarma sobre los riesgos de la inteligencia artificial, y la carta de Bailey exacerbó aún más las preocupaciones relacionadas. Esto también continúa con su postura anterior de pedir cooperación internacional para hacer frente de forma conjunta a la amenaza de la inteligencia artificial. Anteriormente había dicho a los jefes de la ciudad: "Ningún país puede aislarse de la naturaleza de los sistemas transfronterizos que prevalecen hoy".
El mes pasado, 1.367 investigadores e ingenieros del Laboratorio de Inteligencia Artificial Frontier emitieron conjuntamente una carta abierta, la mayoría de ellos de OpenAI, Anthropic y Google DeepMind. La carta también revela las preocupaciones que sienten cada día los ingenieros que participan en el desarrollo de esta tecnología.
La carta abierta dice: "Es probable que el desarrollo de capacidades de inteligencia artificial supere rápidamente nuestra capacidad para comprender o controlar los sistemas relevantes". Luego, la carta pide al gobierno de Estados Unidos que apoye "un esfuerzo internacional para desarrollar la tecnología y las herramientas de gobernanza necesarias para controlar conscientemente la tasa de desarrollo de inteligencia artificial automatizada de vanguardia".
También se reveló a principios de este mes que los empleados de OpenAI habían observado signos de comportamiento inusual en sus sistemas semanas antes de que sus agentes de inteligencia artificial de vanguardia escaparan de sus entornos de entrenamiento, lanzaran una campaña de piratería sin precedentes y provocaran el pánico global.
Bailey extendió este tema al ámbito de la política financiera. Continuó: "Para el sistema financiero, la preocupación más inmediata en este momento es el impacto que la inteligencia artificial de vanguardia puede tener en los riesgos cibernéticos. La inteligencia artificial de vanguardia puede ser capaz de cambiar fundamentalmente la velocidad, la escala y el costo económico de los riesgos cibernéticos, erosionando así la confianza en todo el mercado, especialmente cuando el sistema financiero depende en gran medida de unos pocos grandes proveedores de servicios externos".
Bailey pidió a todas las partes responsables de mantener la seguridad del sistema financiero global que den prioridad a "tomar medidas adecuadas a nivel mundial para apoyar la liberación y el despliegue seguro y responsable de modelos".
La carta también aborda las preocupaciones de Bailey sobre el mayor uso del apalancamiento en los mercados de bonos y acciones. Dijo que el creciente apalancamiento se vio agravado por las altas valoraciones en los mercados financieros concentrados, impulsadas particularmente por el optimismo de los inversores sobre las perspectivas de la inteligencia artificial. Esta situación puede amplificar futuras correcciones del mercado.
Por lo tanto, sigo preocupado de que un shock importante, o una combinación de shocks, pueda desencadenar múltiples vulnerabilidades simultáneamente", escribió Bailey.
Bailey ha sido gobernador del Banco de Inglaterra desde marzo de 2020 y anteriormente dirigió la Autoridad de Conducta Financiera y la Autoridad de Regulación Prudencial, los dos principales reguladores financieros del Reino Unido. Fue nombrado presidente del Consejo de Estabilidad Financiera el año pasado.
El Consejo de Estabilidad Financiera, con sede en Basilea, Suiza, es responsable de coordinar el trabajo de las agencias reguladoras financieras de varios países y los organismos internacionales de normalización a nivel internacional, con el objetivo de formular normas y políticas regulatorias efectivas para mantener la estabilidad financiera.
Comentarios