Anthropic ha cerrado el acceso a sus modelos de inteligencia artificial más avanzados, incluido Mythos, después de que la administración Trump emitiera una orden sin precedentes que prohibía a todos los ciudadanos extranjeros acceder a su tecnología. La compañía dijo en un comunicado que el gobierno de Estados Unidos le pidió suspender el acceso a los modelos Fable 5 y Mythos 5 a todos los ciudadanos extranjeros "ya sea que se encuentren dentro o fuera de Estados Unidos", citando preocupaciones de seguridad nacional. Un funcionario estadounidense confirmó que el Departamento de Comercio había enviado la carta. Desde entonces, el desarrollador del modelo ha cortado todo acceso de los clientes a ambos sistemas para garantizar el cumplimiento.
Nunca antes el gobierno de Estados Unidos había tomado medidas tan integrales para restringir el acceso extranjero a modelos de inteligencia artificial de vanguardia desarrollados por empresas estadounidenses. Tanto la administración de Trump como la de Biden han restringido la exportación de otras tecnologías clave, como semiconductores y supercomputadoras, y algunas han discutido si se debería bloquear el acceso a los modelos de IA. Sin embargo, las restricciones al software en sí han provocado múltiples preocupaciones a nivel constitucional y comercial.
Anthropic dijo que el gobierno emitió la orden porque descubrió que su recientemente lanzado derivado de Mythos, Fable 5, tenía la posibilidad de "jailbreaking" (es decir, eludir las vallas de seguridad). Anteriormente, la compañía prohibió a Fable 5 realizar tareas de ciberseguridad.
"Creemos que es inapropiado retirar un modelo comercial dirigido a cientos de millones de usuarios sólo por un riesgo potencial limitado de jailbreak", dijo Anthropic en una publicación en su sitio web oficial. "Si toda la industria implementa este estándar, el despliegue de nuevos modelos por parte de todos los principales proveedores de modelos básicamente se paralizará".
En nombre de la seguridad nacional, el gobierno ha implementado restricciones generalizadas a una serie de modelos de IA. Esta medida puede sentar un precedente para todos los principales desarrolladores de modelos de IA, como OpenAI, la empresa matriz de Google, Alphabet, y Meta. Líderes de la industria como el director ejecutivo de Nvidia, Jensen Huang, y el director ejecutivo de OpenAI, Sam Altman, han pedido anteriormente al gobierno de EE. UU. que promueva la popularización global de los sistemas de inteligencia artificial estadounidenses y mantenga la vanguardia de su país.
Anthropic dijo que recibió la orden del gobierno a las 5:21 pm, hora de Nueva York, el viernes. La orden, emitida antes de salir del trabajo el viernes, es contraria a declaraciones anteriores de la administración Trump y a una orden ejecutiva firmada recientemente que decía que el gobierno no implementaría un sistema de licencias para la revisión de modelos.
La orden del viernes también podría exacerbar las tensiones de larga data entre Anthropic y partes de la administración Trump. El desarrollador de IA se enfrentó con el Pentágono a principios de este año por el uso de su tecnología con fines militares y de vigilancia. Después del conflicto, el gobierno designó a la empresa como un riesgo para la cadena de suministro de EE. UU. y ordenó a las agencias federales que eliminaran gradualmente sus productos.
Anthropic, una empresa que no cotiza en bolsa y que durante mucho tiempo se ha considerado un "desarrollador de IA más responsable", lanzó el modelo Mythos a un número muy pequeño de empresas e instituciones por primera vez en abril de este año, advirtiendo que tiene la capacidad de descubrir vulnerabilidades de seguridad de la red y que el riesgo de una distribución a gran escala es demasiado alto.
Hay señales de que la publicación limitada podría haber aliviado los conflictos de Anthropic con la administración Trump: hubo informes de que el gobierno de Estados Unidos se estaba preparando para permitir que las principales agencias federales usaran una versión de Mythos.
Mythos también ha presionado a la administración Trump para que acelere la formulación de políticas de IA. La orden ejecutiva emitida recientemente propuso la implementación de un sistema de revisión de modelos voluntarios y dejó claro que la orden ejecutiva no constituye un sistema de licencia obligatoria.
Los desarrolladores de IA de Estados Unidos están compitiendo para lanzar los modelos más avanzados y demostrar a los inversores que la tecnología puede ser rentable, y las últimas restricciones gubernamentales contrarrestan esta tendencia. Tras la histórica oferta pública inicial de SpaceX, tanto OpenAI como Anthropic planean salir a bolsa tan pronto como este año.
Para aprovechar la oportunidad de lanzar modelos de IA de vanguardia, Anthropic publicó un extenso blog a principios de este mes, pidiendo el establecimiento de un mecanismo para que el gobierno y los desarrolladores de IA decidan conjuntamente cuándo frenar la investigación y el desarrollo de tecnología para evitar riesgos potenciales.
“Sería mejor para el mundo tener la opción entre demostrar o pausar temporalmente” la peligrosa investigación y desarrollo de IA, dijo la compañía en una publicación de blog en ese momento. La tecnología de inteligencia artificial se está desarrollando rápidamente y su eficiencia puede aumentar la eficiencia del trabajo humano miles de veces, o incluso reemplazar el trabajo humano, dando lugar así a una serie de nuevos riesgos.
La Comisión Europea dijo que está evaluando la declaración de Anthropic y continúa comunicándose con sus aliados sobre riesgos potenciales y problemas de ciberseguridad relacionados con los modelos avanzados de IA. La Comisión Europea añadió que los últimos acontecimientos pusieron de relieve la necesidad de que Europa promueva la autonomía tecnológica.