La empresa de inteligencia artificial Anthropic ha acordado informar a los principales ministerios de finanzas y bancos centrales de varios países sobre las vulnerabilidades de defensa de la ciberseguridad del sistema financiero global descubiertas por su último modelo de inteligencia artificial. Dos personas familiarizadas con el asunto dijeron que el acuerdo surgió de una solicitud del gobernador del Banco de Inglaterra, Andrew Bailey. Bailey, quien también se desempeña como presidente de la Junta de Estabilidad Financiera, espera que Anthropic presente las capacidades de su nuevo modelo de inteligencia artificial preliminar ClaudeMythos a los miembros del comité.
El Consejo de Estabilidad Financiera es una agencia reguladora financiera global que reúne a funcionarios de los ministerios de finanzas, banqueros centrales y reguladores de valores de los países del G20. Entre sus miembros se incluyen funcionarios relevantes de Estados Unidos, Reino Unido, Canadá, Francia, Alemania, Japón, Arabia Saudita, Australia y otros países.
Muchos miembros del comité están cada vez más preocupados de que modelos similares de inteligencia artificial desarrollados por Mythos y otras empresas de tecnología estadounidenses puedan explotar las debilidades en los sistemas de defensa de la red de las instituciones financieras, planteando así riesgos potenciales para el sistema bancario global.
Anthropic dijo el mes pasado que Mythos había descubierto miles de vulnerabilidades de seguridad de alto riesgo en los principales sistemas operativos y navegadores web. La compañía también dijo que si tales vulnerabilidades causan problemas, tendrán graves consecuencias para el desarrollo económico, la seguridad pública y la seguridad nacional.
Debido a las preocupaciones sobre el enorme riesgo de que la tecnología caiga en las manos equivocadas, Mythos actualmente sólo está abierto a unas pocas instituciones, y la mayoría de los usuarios son instituciones en los Estados Unidos. Pero esto también ha preocupado a muchas empresas y agencias reguladoras en otras regiones, y existe un desequilibrio en el nivel de protección de la seguridad de la red en varias regiones.
En la actualidad, un gran número de instituciones de todo el mundo han solicitado permiso para utilizar Mythos o para conocer las funciones relacionadas del modelo. Anthropic ha acordado proporcionar sesiones informativas de alto nivel a algunas agencias no estadounidenses, incluida la Comisión Europea.
Actualmente, sólo unas cuarenta instituciones están aprobadas para utilizar Mythos, incluidas Amazon, Microsoft y JPMorgan Chase. Estas instituciones pueden utilizar el modelo para solucionar problemas y reparar vulnerabilidades del sistema. A petición de la Casa Blanca, Anthropic se ha comprometido a no promover este modelo a gran escala.
El Consejo de Estabilidad Financiera está redactando un informe para ordenar las directrices normativas y prácticas para la aplicación de la inteligencia artificial en la industria financiera, y planea publicar un borrador el próximo mes para comentario público. Tanto el Consejo de Estabilidad Financiera como Anthropic se negaron a comentar sobre las comunicaciones recientes entre las dos partes.
Las agencias reguladoras de varios países han instado a los bancos y diversas instituciones financieras a investigar exhaustivamente los sistemas de seguridad de la red, impulsar e instalar parches del sistema lo antes posible y reparar diversas vulnerabilidades de seguridad expuestas por nuevos modelos de inteligencia artificial.
El Tesoro británico y las autoridades reguladoras financieras también han instado recientemente a varias instituciones financieras de la City de Londres a tomar medidas proactivas para prevenir ciberataques más rápidos y destructivos generados por tecnología de inteligencia artificial de vanguardia, a fin de reducir los riesgos de seguridad de la red.
Sin embargo, debido a las tensiones geopolíticas actuales, algunas agencias reguladoras creen que es difícil para el mundo formar una respuesta unificada y coordinada a las amenazas a la seguridad que plantea la inteligencia artificial.
A principios de este mes, el Fondo Monetario Internacional pidió a los responsables políticos de varios países que fortalezcan la cooperación internacional para abordar conjuntamente las vulnerabilidades de ciberseguridad expuestas por la nueva generación de modelos de inteligencia artificial.
El FMI advirtió que los nuevos modelos de inteligencia artificial han intensificado los riesgos de ciberseguridad hasta convertirlos en importantes peligros ocultos que pueden desencadenar shocks macrofinancieros.
El personal del FMI escribió en una publicación de blog: Los riesgos de ciberseguridad no respetan fronteras. Las economías emergentes y los países en desarrollo generalmente tienen recursos limitados y capacidades de defensa de redes débiles. Es más probable que sean blanco de ciberataques y sufran impactos más graves.