Estados Unidos ha prohibido a los usuarios extranjeros acceder a los modelos de inteligencia artificial más avanzados de Anthropic, informó Bloomberg, una medida inusual que resalta la actual voluntad de la administración Trump de ejercer control sobre esta industria crítica. Al mismo tiempo, sirve como recordatorio para Silicon Valley de que están desarrollando y utilizando una tecnología que aún no se comprende del todo y cuyo impacto es muy variable.
antrópico
El viernes, el gobierno de Estados Unidos tomó la medida sin precedentes de ordenar a Anthropic que prohibiera a todos los extranjeros utilizar su plataforma de inteligencia artificial más avanzada. El gobierno de Estados Unidos emitió esta orden después de descubrir que el modelo Fable 5 lanzado por Anthropic hace unos días podría tener "jailbreak". El llamado "jailbreaking" se refiere a eludir el mecanismo de protección de seguridad establecido por el modelo.
La rápida introducción de la medida provocó una preocupación generalizada. Anthropic calificó la medida como una "reacción exagerada" y advirtió que adoptar un enfoque regulatorio de este tipo podría "dar como resultado que todos los desarrolladores de modelos de vanguardia no puedan implementar ningún modelo nuevo".
Los ejecutivos de Anthropic están actualmente en conversaciones con funcionarios en Washington sobre las preocupaciones de seguridad específicas planteadas por estos últimos, dijeron personas familiarizadas con el asunto. Uno de los funcionarios clave involucrados en las negociaciones fue el Secretario del Tesoro de Estados Unidos, Bessent. Anteriormente había advertido a Wall Street sobre los riesgos que plantean los modelos de inteligencia artificial de vanguardia, como Mythos de Anthropic. En teoría, Mythos puede encontrar y explotar vulnerabilidades en el software más rápido que los humanos.
Intervenir en las operaciones de la empresa de IA.
La respuesta del gobierno de Estados Unidos es la intervención más significativa de funcionarios gubernamentales en las operaciones de una empresa de IA hasta la fecha. La medida se produce cuando las principales empresas emergentes de inteligencia artificial, como Anthropic, buscan salir a bolsa. Anthropic está valorada en más de 900 mil millones de dólares. Esta inesperada medida de control puede sentar un precedente para los principales desarrolladores de modelos de IA, como OpenAI, Google y Meta.
Hoy en día, el gobierno de Estados Unidos está dispuesto a utilizar poderes extraordinarios para obligar a los desarrolladores de IA a hacer frente a posibles amenazas a la seguridad de acuerdo con los requisitos gubernamentales, aunque la administración Trump declaró en una orden ejecutiva emitida en junio de este año que no obligará a las empresas de Silicon Valley a obedecer las órdenes gubernamentales.
"Los modelos de vanguardia de Estados Unidos se consideran cada vez más activos estratégicos, y su uso está estrictamente controlado y influenciado por consideraciones de seguridad nacional", dijo Gary Tan, gerente de cartera de la empresa de gestión de activos Allspring Global Investments. "Es probable que esta tendencia continúe porque Estados Unidos tiene el liderazgo en potencia informática".
modelo de mitos
Anthropic lanzó Fable 5 la semana pasada, la primera versión pública de su modelo clase Mythos. La compañía ha advertido repetidamente sobre las capacidades cibernéticas de Mythos, y los funcionarios de la Casa Blanca han tomado en serio estas preocupaciones, creando un camino a través de órdenes ejecutivas voluntarias para que las agencias estadounidenses utilicen Mythos y otros modelos con capacidad cibernética para reparar las vulnerabilidades en sus sistemas.
Las preocupaciones de Washington pueden ir más allá del "jailbreaking" o de la capacidad de afectar una plataforma en particular. La preocupación más amplia es que los adversarios podrían intentar robar los pesos de un modelo de IA, un archivo digital de gran valor que contiene la clave de las capacidades de un modelo. La decisión de prohibir el acceso a Fable y Mythos se produce en medio de crecientes preocupaciones en Washington sobre la protección de secretos comerciales por parte de las empresas de inteligencia artificial. El gobierno de Estados Unidos cree que estas empresas deben protegerse contra posibles amenazas internas para evitar la fuga de tecnologías centrales.
Después de décadas de difundir tecnología estadounidense de vanguardia por todo el mundo como herramienta diplomática y económica, Washington ahora avanza en la dirección opuesta. Ahora, Estados Unidos se inclina cada vez más a mantener la tecnología para uso interno debido a preocupaciones de seguridad nacional.
"Esto demuestra que Estados Unidos está utilizando rápidamente controles de exportación para frenar los riesgos que plantea la IA de vanguardia". dijo Stefanie Kam, profesora asistente en el Instituto de Defensa y Estudios Estratégicos de la Universidad Tecnológica de Nanyang en Singapur.
¿Boicot a Silicon Valley?
Dejando a un lado los objetivos políticos, es probable que Silicon Valley se resista a los intentos de Washington de reforzar el control. Desde Meta hasta OpenAI, los principales desarrolladores de IA están compitiendo por alcanzar las alturas dominantes de esta tecnología, porque es probable que esta tecnología remodele toda la economía y muchas industrias.
Sin embargo, es imposible probar todas las combinaciones de las capacidades potenciales de un modelo de IA, lo que genera vagas preocupaciones sobre las amenazas que continúan siendo objeto de escrutinio a medida que los modelos continúan mejorando.
"Puede haber umbrales de capacidad importantes. Por ejemplo, sistemas de IA que pueden automatizar grandes cantidades de trabajo de investigación y desarrollo de IA en un corto período de tiempo. Dichos sistemas pueden introducir riesgos completamente nuevos". El senador estadounidense Jim Banks escribió este mes en una carta a Bessant, al director cibernético nacional Sean Cairncross y al secretario de Defensa Pete Hegseth. "Los expertos de la industria también han expresado serias preocupaciones sobre la dificultad de poner estos sistemas bajo control humano".