El gobierno de EE. UU. emitió recientemente una nueva directiva de control de exportaciones citando instrucciones del Departamento de Seguridad Nacional de EE. UU., que requiere que Anthropic suspenda inmediatamente el acceso a los modelos Claude Fable/Mythos 5 por parte de todos los ciudadanos extranjeros. Incluso los empleados extranjeros de empresas estadounidenses en Estados Unidos no pueden acceder a estos modelos. Esta prohibición también da como resultado directo que los propios empleados extranjeros de la Compañía A no puedan utilizar Claude Fable/Mythos 5.

Con base en los requisitos de cumplimiento, la Compañía A ha decidido suspender inmediatamente el suministro de Claude Fable/Mythos 5 a nivel mundial. Estos modelos no se pueden utilizar independientemente de que estén en Estados Unidos. Otras plataformas cooperativas como Amazon AWS también cortaron inmediatamente el acceso. En cuanto a cuándo se podrá restaurar el acceso al modelo, es posible que no se sepa hasta que la Compañía A lo hable con el gobierno de EE. UU.

Puede estar relacionado con el modelo jailbreak:

Ayer, un conocido experto en jailbreak de modelos de IA logró liberar con éxito el modelo Claude Fable/Mythos 5. Hay muchos métodos utilizados por los expertos en jailbreak, pero siempre que se anuncien, otros usuarios también pueden intentar utilizar estos métodos para hacer jailbreak, y la tasa de éxito de jailbreak puede ser relativamente alta, lo que permite que el modelo brinde respuestas detalladas a varios contenidos confidenciales.

El gobierno de EE. UU. mencionó en una orden de control de exportaciones emitida a la Compañía A que había descubierto formas de eludir o descifrar el modelo Claude Fable 5. La revisión de las demostraciones de esta tecnología específica por parte de la Compañía A confirmó que la tecnología se puede usar para identificar una pequeña cantidad de vulnerabilidades menores previamente observadas que parecen ser relativamente simples y pueden ser explotadas por otros modelos sin pasarlas por alto.

Sin embargo, no está claro si la demostración técnica mencionada aquí es el método utilizado por los expertos en jailbreak. Sin embargo, teniendo en cuenta que el gobierno de EE.UU. no exige una suspensión total del acceso a los modelos, sino que sólo prohíbe a los ciudadanos extranjeros utilizar estos modelos, los problemas descubiertos por la Agencia de Seguridad Nacional de EE.UU. pueden no estar directamente relacionados con los mencionados por los expertos en jailbreak. Es solo que es imposible decir que la agencia también se referirá a las ideas de los expertos en jailbreak para encontrar métodos de jailbreak.

La empresa A expresó su descontento en una carta abierta:

La empresa A afirma que actualmente ningún modelo es 100% resistente al cracking y ningún evaluador puede encontrar una solución universal de jailbreak. La estrategia de defensa en profundidad adoptada por Claude Fable/Mythos 5 puede dificultar el jailbreak. Combinado con una tecnología de monitoreo integral, la Compañía A puede detectar y bloquear rápidamente cualquier ataque exitoso, lo que puede reducir el riesgo de que se haga jailbreak al modelo.

La Agencia A también mencionó que el gobierno de EE. UU. no proporcionó ninguna información de divulgación detallada que pudiera tener consecuencias perjudiciales en la prohibición del control de exportaciones, lo que significa que las soluciones de jailbreak que se han divulgado son completamente inofensivas o son descubrimientos insignificantes. No es muy razonable que la Agencia A retire software comercial que se ha implementado para cientos de millones de usuarios sólo por las posibles vulnerabilidades de seguridad descubiertas.

La empresa A cree que el gobierno de EE. UU. tiene derecho a impedir el despliegue de modelos inseguros, pero esto debe ejercerse mediante procedimientos legales que sean transparentes, justos, claros y basados ​​en hechos técnicos, en lugar de exigir la implementación de controles basados ​​únicamente en instrucciones verbales. Por lo tanto, esta acción no se ajusta a los principios. La Compañía A continúa comunicándose con el gobierno de EE. UU. y se esfuerza por restaurar el servicio del modelo Claude Fable/Mythos 5 lo antes posible.