El brazo de operaciones cibernéticas del Pentágono está formando un grupo de trabajo para acelerar la adopción de herramientas de inteligencia artificial de vanguardia con poderosas capacidades de piratería, según tres personas familiarizadas con el asunto. La medida del Comando Cibernético de EE. UU., que aún no se ha informado públicamente, resalta las preocupaciones del Pentágono sobre la repentina aparición de modelos de inteligencia artificial desarrollados por el sector privado que pueden encontrar vulnerabilidades en la seguridad de los sistemas digitales más rápido que los principales piratas informáticos del mundo.
El general Joshua Rudd, líder dual de la Agencia de Seguridad Nacional y el Comando Cibernético, anunció a los empleados la formación del grupo de trabajo hace dos semanas en un correo electrónico interno, dijeron a POLITICO dos personas familiarizadas con el asunto. Según el correo electrónico, el grupo de trabajo abarcará el Cyber Command y la Agencia de Seguridad Nacional y examinará cómo el Pentágono puede implementar de manera segura modelos líderes de inteligencia artificial en todos los aspectos de sus misiones. Esto incluye evaluar cómo los modelos de IA desarrollados por los gigantes tecnológicos de Silicon Valley pueden usarse en sistemas de "alta gama" que contienen los secretos más sensibles de la comunidad de inteligencia.
La formación del grupo de trabajo se produce cuando el gigante de la inteligencia artificial Anthropic anunció hace un mes que su último modelo, Claude Mythos, es tan bueno para encontrar y explotar vulnerabilidades de la red que solo se compartirá con un pequeño grupo de defensores confiables de la red. Anthropic advirtió en su momento que si la herramienta caía en las manos equivocadas, podría tener consecuencias "graves" para la economía, la seguridad pública y la seguridad nacional. Desde entonces, otras empresas líderes en inteligencia artificial, incluida OpenAI, han anunciado que tienen modelos con habilidades de piratería avanzadas similares y han lanzado iniciativas similares para restringir el acceso. Los funcionarios de Anthropic predicen que modelos equivalentes estarán ampliamente disponibles en un plazo de seis a 24 meses, lo que potencialmente permitirá a los piratas informáticos poco cualificados sembrar el caos digital a escala masiva.
Las preocupaciones sobre la proliferación de modelos avanzados de IA han provocado medidas de emergencia por parte de la Casa Blanca, que actualmente está redactando una orden ejecutiva que exige que los laboratorios de IA de vanguardia, como Anthropic, OpenAI y Google, presenten sus modelos al gobierno federal para que los pruebe antes de publicarlos. Marca un cambio significativo con respecto a la administración Trump, que anteriormente había promocionado un enfoque de no intervención en la regulación de la IA.
Si bien el grupo de trabajo no está directamente vinculado a la próxima orden ejecutiva, se espera que Cyber Command y la Agencia de Seguridad Nacional desempeñen un papel central en cualquier nueva iniciativa relacionada con la ciberseguridad. La NSA, a través de su recientemente creado Centro de Seguridad de Inteligencia Artificial, ya está trabajando con el Departamento de Comercio para estudiar las capacidades cibernéticas de nuevos modelos de IA de vanguardia, un esfuerzo que puede ampliarse y codificarse en la nueva orden ejecutiva. "El gobierno en general se está apoyando en la experiencia técnica de la NSA para descubrir 'cómo hacer esto de forma segura'", dijo una persona familiarizada con el asunto.
Cualquier posible revisión federal garantizaría que la comunidad de inteligencia estadounidense comprenda las capacidades de estos nuevos modelos antes de que adversarios extranjeros como Rusia y China obtengan acceso. La NSA es responsable de interceptar las comunicaciones extranjeras y proteger la seguridad del gobierno de EE. UU., mientras que Cyber Command es responsable de defenderse contra ataques digitales a los sistemas del Departamento de Defensa y apoyar las operaciones militares.
En el correo electrónico, Rudd dijo que el grupo de trabajo obtendría experiencia del Centro de Seguridad de Inteligencia Artificial de la Agencia de Seguridad Nacional y designó a un comandante del Comando Cibernético para liderar el grupo de trabajo. No está claro qué tamaño tendrá el grupo de trabajo ni cuánto tiempo podría operar. Un ex alto funcionario de seguridad nacional dijo que la creación del grupo de trabajo refleja la creencia de Rudd de que tanto Cyber Command como la Agencia de Seguridad Nacional necesitan implementar más rápidamente herramientas de inteligencia artificial en rápida evolución en sus redes. El funcionario agregó que asignar roles de liderazgo al comandante del Cyber Command indica "un mayor dominio por parte de los comandos combatientes, con la NSA brindando apoyo".
Sin embargo, gran parte de la destreza técnica del grupo de trabajo probablemente provendrá de la Agencia de Seguridad Nacional. La enorme agencia de inteligencia de señales alberga a algunos de los mejores talentos científicos e informáticos del gobierno de EE. UU., y Cyber Command ha enfrentado problemas de gestión de talentos durante años. A principios de este mes, el Pentágono anunció que había firmado acuerdos con siete empresas de tecnología, incluidas OpenAI y Google, para comenzar a utilizar sus modelos de inteligencia artificial en redes clasificadas.
Anthropic se encuentra actualmente envuelto en una disputa legal con el Pentágono, lo que complica un despliegue más amplio de Mythos en todo el gobierno federal. El Departamento de Defensa tomó la medida sin precedentes en marzo de designar a Anthropic como un riesgo para la cadena de suministro después de que la compañía intentara limitar el uso de sus herramientas en operaciones de guerra autónoma y vigilancia masiva. Un funcionario de Anthropic dijo anteriormente que la compañía estaba dispuesta a permitir que el gobierno de EE. UU. utilizara Mythos en operaciones cibernéticas ofensivas. Esta es una dirección que el Pentágono podría explorar, lo que podría ejercer presión dentro del Departamento de Defensa para que levante la designación de riesgo de la cadena de suministro de Anthropic.
El teniente general Charles Moore, ex subcomandante de Cyber Command, dijo a POLITICO que estaba "consciente" de los planes de Cyber Command de establecer un grupo de trabajo de inteligencia artificial y dijo que lo consideraba "no sólo una buena idea, sino una necesidad". "Las herramientas de inteligencia artificial se están convirtiendo rápidamente en una necesidad para detectar amenazas, priorizar vulnerabilidades, acelerar la toma de decisiones y llevar a cabo operaciones cibernéticas defensivas y ofensivas más rápido que nuestros adversarios", dijo Moore. "Este grupo de trabajo puede ayudar a integrar la inteligencia artificial en las operaciones, el entrenamiento, la inteligencia y la ciberdefensa, al tiempo que garantiza que Estados Unidos mantenga una ventaja analítica sobre nuestros adversarios".
Trabajar con el sector privado para mejorar las capacidades cibernéticas ofensivas del país está en el centro de la nueva estrategia de ciberseguridad de la administración Trump publicada en marzo. En la estrategia, la Casa Blanca pide a las agencias federales que adopten "soluciones de ciberseguridad impulsadas por inteligencia artificial" para proteger las redes gubernamentales. La estrategia también dice que la administración Trump "liberará al sector privado" para ayudar a "expandir nuestras capacidades nacionales", incluidas la defensa y el ciberataque.