Resumen:
Anthropic se niega a enviar su último modelo al Instituto de Seguridad de Inteligencia Artificial (AISI) del Reino Unido para realizar pruebas antes de lanzar el nuevo producto. La medida ha generado preocupación dentro del gobierno británico de que las empresas de tecnología estén siguiendo la línea proteccionista de IA de la administración Trump.
La empresa valorada en un billón de dólares, que se está preparando para una importante oferta pública inicial en las próximas semanas, lanzó su último modelo, Claude Mythos 5.1, la semana pasada, calificándolo como el modelo más capaz en ciencias biológicas y ciberseguridad.
Pero esta es la primera vez que el modelo ha estado abierto sólo a instituciones estadounidenses acreditadas, y el Instituto de Seguridad de Inteligencia Artificial (AISI) del Reino Unido no pudo obtener acceso. AISI es la organización líder mundial en el campo de la evaluación de modelos grandes de vanguardia.
Varios funcionarios del gobierno británico dijeron que AISI no pudo obtener derechos de acceso antes de que se lanzara el modelo, lo que desató la alarma dentro de Whitehall (el gobierno central británico) y el instituto. AISI es la moneda de cambio más importante del Reino Unido en la carrera mundial por la inteligencia artificial.
Un miembro del gobierno dijo: "Los funcionarios de seguridad nacional están preocupados por esto. Realmente no están probando Mythos 5.1. Hay mucha ansiedad en todas partes... Les preocupa que esto siente un precedente y que AISI ya no tenga acceso a los últimos modelos en el futuro".
En los últimos meses, la administración Trump ha adoptado una postura cada vez más estricta con respecto a la industria de la IA, introduciendo amplios controles de exportación y restringiendo temporalmente el acceso de todos los extranjeros (incluidos los empleados de empresas de IA estadounidenses) a los mejores modelos de Anthropic.
Las fuentes revelaron que algunas personas dentro de Whitehall creen que Anthropic se negó a abrir la nueva versión del modelo Mythos a AISI por orden del gobierno de EE. UU., pero esta especulación no ha sido confirmada. AISI, que se estableció hace tres años, ya obtuvo el nuevo modelo OpenAI Astra para su evaluación por adelantado antes de su lanzamiento oficial este mes.
Anthropic declinó hacer comentarios. La compañía dijo la semana pasada que estaba "coordinando con el gobierno de Estados Unidos para ampliar la apertura del modelo a más socios nacionales y extranjeros lo antes posible".
En junio de este año, el gobierno de Estados Unidos implementó controles de exportación de Fable y Mythos, dos modelos de Anthropic que se centran en la seguridad de la red, prohibiendo a los extranjeros utilizar la tecnología. Este incidente se produjo después de que se introdujeran los controles antes mencionados.
Estados Unidos descubrió que el modelo tenía una vulnerabilidad de "jailbreak", que es un método que puede eludir las barreras de seguridad integradas del software, e inmediatamente implementó este control. Como resultado del descubrimiento, Anthropic retiró su modelo de vanguardia de los mercados globales durante varias semanas.
Este incidente intensificó el conflicto entre la Casa Blanca y Silicon Valley. Silicon Valley ha criticado al gobierno de Estados Unidos por adoptar regulaciones temporales de emergencia sobre la IA de vanguardia.
Esta medida también ha atraído la oposición de muchos gobiernos, y los países relevantes han acusado a Estados Unidos de castigar a los aliados mediante prohibiciones. La Comisión Europea, el brazo ejecutivo de la UE, advirtió en ese momento que los riesgos de seguridad eran un "desafío compartido" y que las medidas adoptadas "no deberían constituir una discriminación contra los países socios".
Los funcionarios del gobierno británico son claramente conscientes de que si el Reino Unido no puede obtener los modelos de IA más avanzados, el país no sólo enfrentará implicaciones de seguridad, sino que la economía también podría verse afectada.
Los medios de comunicación informaron el mes pasado que la Oficina del Gabinete, responsable de coordinar los asuntos gubernamentales, ha ordenado una evaluación urgente del riesgo de que los consumidores y las empresas comunes y corrientes ya no puedan utilizar la última versión de los modelos de IA.
La relación de Anthropic con el gobierno de Estados Unidos ha sido tensa desde principios de este año. Anteriormente, la empresa había estado en un punto muerto con el Departamento de Defensa de EE. UU. por los términos del contrato, y EE. UU. posteriormente la identificó como una entidad de riesgo para la cadena de suministro.
En los últimos meses, las relaciones entre el principal laboratorio de inteligencia artificial de EE. UU. y partes de la administración Trump parecen haberse relajado, y ambas partes trabajan estrechamente en el lanzamiento de los modelos Mythos y Fable.
La Oficina del Gabinete Británico dijo: "El Instituto de Seguridad de Inteligencia Artificial (AISI) continúa trabajando estrechamente con socios de la industria, incluido Anthropic, para mejorar la seguridad de los modelos".
Comentarios