Temprano esta mañana, según múltiples informes de medios extranjeros, Anthropic anunció que cancelaría el acceso a los modelos Fable 5 y Mythos 5. Este puede ser el desencadenante.El director ejecutivo de Amazon es Andy Jassy. El Wall Street Journal informa que mientras realizaban una investigación utilizando Claude Fable 5 de Anthropic, los investigadores de Amazon obtuvieron información que podría usarse en ataques cibernéticos. Posteriormente, el gobierno de Estados Unidos impuso una prohibición de control de exportaciones de Fable 5 y Mythos 5.

David Sacks, ex comisionado de IA de Trump y actual copresidente del Consejo de Asesores en Ciencia y Tecnología del Presidente, publicó en una plataforma socialEl director ejecutivo de Anthropic, Dario Amodei, se niega a arreglarlo, y reivindicado en anuncios oficiales posteriores.Esta vulnerabilidad no es grave y se puede encontrar en modelos de otras empresas..

Sacks cree que esta minimización de los riesgos es inconsistente con el posicionamiento de marca de Anthropic como empresa de seguridad de inteligencia artificial. También reveló que el gobierno estadounidense esperaAnthropic podría resolver rápidamente los problemas de seguridad para levantar los controles de exportacióny relanzar el modelo Fable 5.


Para compensar los derechos de los usuarios, Anthropic proporcionaCanal de reembolso, algunos internautas publicaron el correo electrónico de reembolso que recibieron de Claude. El correo electrónico mencionaba que Anthropic ha cerrado el acceso al modelo Claude Fable 5; todos los demás modelos de Opus, Sonnet y Haiku se pueden utilizar normalmente; y la cuota de uso del usuario se ha restablecido.

Si el usuario considera que este ajuste no satisface sus necesidades, puede optar por cancelar la suscripción y recibir automáticamente un reembolso según el tiempo restante. La fecha límite de reembolso es el 20 de junio, hora local. Este reembolso no admite operaciones en la aplicación móvil de Claude.


▲ Correo electrónico de reembolso recibido por los internautas (Fuente: X)

1. Claude comenzó a reembolsar, los internautas dijeron: no hay vuelta atrás

Muchos internautas mencionaron que el plan de procesamiento de reembolsos de Anthropic para prohibir Fable 5 lanzado apresuradamente tiene muchos errores. Uno de los internautas dijo que Anthropic cerró directamente todos los servicios de suscripción del usuario. Sus derechos de suscripción anteriores, que eran cinco veces más largos y válidos hasta el 19 de junio, habían desaparecido, lo cual era indignante.


Algunos internautas afirmaron directamente que Claude ha sido eliminado y que no hay vuelta atrás.



Algunos internautas analizaron que la operación de reembolso de Anthropic también demuestra que Fable 5 no volverá pronto.


Algunos internautas dijeron que cancelarían su suscripción y esperarían el nuevo modelo de ChatGPT.


2. El gobierno de Estados Unidos afirmó que Anthropic evitó problemas importantes y debilitó las vulnerabilidades de seguridad en los nuevos modelos.

Un portavoz de Amazon dijo a The Information que, como proveedor líder de servicios en la nube que presta servicios a un gran número de clientes del sector público y privado, no es inusual que el gobierno de Estados Unidos busque el asesoramiento de Amazon sobre posibles riesgos de seguridad. Incluso si se lleva a cabo una comunicación relevante, no revelaremos el contenido específico de la negociación.

El portavoz también reveló que Amazon Cloud Technology también se ha visto afectada por el modelo de prohibición de Anthropic. En la mañana del 13 de junio, Amazon Cloud Technology revocó el acceso a Fable 5 y Mythos 5 en todas las regiones.

The Information citó a personas familiarizadas con el asunto diciendo que después de conversaciones con Jassy y otros líderes de empresas de tecnología, el Director Nacional de Asuntos Cibernéticos de EE. UU., Sean Cairncross, convocó una reunión de altos funcionarios del gobierno de EE. UU. el viernes, en la que se tomó la decisión.Los controles de exportación son el medio más directo de tomar medidas contra Anthropic.

Después de la reunión, el director ejecutivo de Anthropic, Dario Amodei, habló con funcionarios del gobierno de Estados Unidos. Durante la reunión, Anthropic explicó que la vulnerabilidad llamada jailbreak expusoEl umbral de peligros para la seguridad no es demasiado alto., otros modelos grandes también tienen la posibilidad de sufrir problemas similares. Sin embargo, el gobierno de Estados Unidos informó a Anthropic que la decisión de implementar controles de exportación ha sido finalizada.

David Sacks, ex comisionado de IA de Trump y actual copresidente del Consejo de Asesores en Ciencia y Tecnología del Presidente, publicó algunos detalles en la plataforma social X.

Dijo que un socio confiable en el que tanto Anthropic como el gobierno de EE. UU. confían mucho tomó la iniciativa de exponer una vulnerabilidad de jailbreak modelo. Y cuando el gobierno de Estados Unidos le pidió a Amodei que arreglara la vulnerabilidad del jailbreak o de lo contrario el modelo sería retirado del mercado, Amodei se negó a arreglar la vulnerabilidad.

Sacks también mencionó que Anthropic afirmó en su blog oficial que la vulnerabilidad del jailbreak no era grave. Sin embargo, ni el socio fiable ni el gobierno de los EE.UU. estuvieron de acuerdo con esta afirmación. Esta declaración de restar importancia a los riesgos también contradice el posicionamiento de marca de Anthropic de ser una empresa de seguridad de IA.Actualmente, el gobierno de Estados Unidos espera que Anthropic pueda resolver los problemas de seguridad lo antes posible para levantar los controles de exportación y volver a lanzar el modelo Fable 5..

Además, Anthropic también mencionó en el blog que anunciaba el modelo prohibido que habían aparecido vulnerabilidades similares en otros modelos públicos. Sin embargo, un funcionario cercano al gobierno de Estados Unidos dijo a The Information que es poco probable que el gobierno de Estados Unidos extienda las restricciones a la exportación de los modelos avanzados de Anthropic a otras empresas de IA.

Amazon es un importante inversor en Anthropic. Amazon mencionó públicamente en abril de este año que ha invertido 13 mil millones de dólares (aproximadamente 87,9 mil millones de RMB) en Anthropic desde 2023, y planea invertir otros 20 mil millones de dólares (aproximadamente 135,3 mil millones de RMB) en el futuro. Los chips Trainium de Amazon ayudan a entrenar e impulsar los grandes modelos de Anthropic, que también se ejecutan en los servicios en la nube de Amazon.

Vale la pena mencionar que este año Amazon también hizo una gran inversión en el principal competidor de Anthropic, OpenAI, prometiendo invertir hasta 50 mil millones de dólares en él, y por primera vez conectará el último modelo de OpenAI a la tecnología de nube de Amazon para ventas externas.

Otro trasfondo importante de la prohibición del modelo antrópico por parte del gobierno de Estados Unidos es que el gobierno de Estados Unidos emitió una orden ejecutiva hace dos semanas para lanzar un mecanismo de cumplimiento voluntario: las empresas de IA pueden presentar modelos al gobierno para su verificación antes de entregarlos a sus socios y al público. Esto se debe a que ha habido un debate dentro del gobierno de Estados Unidos sobre si se debe establecer un sistema de licencias con umbrales más altos y una revisión más estricta para las empresas de IA que planean lanzar modelos grandes de alta gama. Esta orden ejecutiva es el producto de este juego.

Conclusión: ¿Se cerró el modelo más potente de Anthropic y el umbral de seguridad de la industria se vio obligado a aumentar?

El 10 de junio, Anthropic lanzó oficialmente dos modelos principales, Claude Fable 5 y Mythos 5. Ambos pertenecen al nivel Mythos (mito) y comparten el mismo modelo subyacente. Sus capacidades son superiores al nivel Opus. Este es también el nivel de modelo grande más potente y de mayor rendimiento general de Anthropic hasta la fecha.

Durante el mismo período de lanzamiento, Anthropic diseñó deliberadamente una apertura jerárquica y un enrutamiento de degradación de seguridad incorporado. Originalmente quería equilibrar capacidades sólidas y gestión y control de riesgos, pero aún así no pudo resistir el impacto de la cadena causado por vulnerabilidades de seguridad ocultas. En tan sólo unos días, se cerraron dos modelos emblemáticos. Esto puede significar que antes de que se lancen nuevos modelos en el futuro, las pruebas de seguridad relacionadas con la verificación en profundidad de ataques y defensas por parte de un equipo rojo independiente de terceros pueden convertirse en un umbral estricto.