El Departamento de Defensa de EE. UU. está instando a varias empresas líderes en inteligencia artificial, incluidas OpenAI y Anthropic, a conectar herramientas de IA generativa ampliamente utilizadas en campos comerciales a redes militares clasificadas, y a eliminar o relajar significativamente las restricciones de uso regular para los usuarios comunes en estos entornos.
Según personas familiarizadas con el asunto, en un evento celebrado en la Casa Blanca el martes, el director de tecnología del Departamento de Defensa, Emil Michael, dijo a varios ejecutivos de empresas de tecnología que el objetivo del ejército es permitir que estos modelos de inteligencia artificial de vanguardia se ejecuten en sistemas de información clasificados y no clasificados. Un funcionario anónimo dijo que el Pentágono está "promoviendo el despliegue de capacidades de inteligencia artificial de vanguardia en todos los niveles clasificados".
La medida es parte de las negociaciones en curso entre el Pentágono y varias empresas de IA generativa sobre cómo Estados Unidos utilizará la inteligencia artificial en futuros campos de batalla; En estos escenarios, enjambres de drones, robots y ciberataques se han convertido en parte del panorama bélico. Se espera que la declaración de Michael intensifique aún más el intenso debate entre "el deseo de los militares de utilizar la IA con el menor número de restricciones posible" y "las empresas de tecnología que intentan establecer límites de uso para sus propias herramientas".
Actualmente, muchas empresas de inteligencia artificial están desarrollando herramientas personalizadas para el ejército estadounidense, pero la mayoría de los productos sólo pueden implementarse en redes no clasificadas utilizadas para la gestión militar diaria. En un entorno clasificado, sólo algunos de los productos de Anthropic están disponibles a través de canales de terceros, y los gobiernos aún deben cumplir con las políticas de uso de la empresa. Las redes clasificadas del ejército se utilizan normalmente para manejar tareas más delicadas, como la planificación de operaciones de combate o la selección de objetivos de armas; No está claro cómo y en qué cronograma el Pentágono planea integrar completamente sistemas de inteligencia artificial tipo chatbot en estas redes.
Los oficiales militares esperan utilizar las poderosas capacidades de inducción e integración de información de la IA generativa para ayudar en la toma de decisiones y el análisis de situaciones. Pero los investigadores advierten que incluso los modelos más avanzados pueden cometer errores e incluso "inventar" información que parece razonable pero que en realidad es falsa; Una vez que tales errores ocurren en un entorno de combate clasificado y altamente sensible, las consecuencias pueden ser fatales.
Para reducir los riesgos tanto como sea posible, la mayoría de las empresas de IA tienen mecanismos de protección de seguridad integrados dentro de los modelos y exigen a los clientes que cumplan con una serie de pautas de uso. Sin embargo, algunos funcionarios del Pentágono han criticado estas restricciones externas, argumentando que el ejército debería tener derecho a desplegar y utilizar herramientas comerciales de IA según sus propias necesidades, siempre que cumpla con la ley estadounidense.
Esta semana, OpenAI llegó a un acuerdo con el Pentágono para permitir que los militares utilicen sus herramientas, incluido ChatGPT, en una red no clasificada llamada "genai.mil"; la plataforma se ha puesto a disposición de más de 3 millones de empleados del Departamento de Defensa. Como parte del acuerdo, OpenAI acordó levantar muchas de las restricciones habituales de la red sobre el uso público, aunque se mantendrán algunas barreras de seguridad. Google, propiedad de Alphabet, y xAI, fundada por Musk, ya han llegado a acuerdos similares.
OpenAI dijo en un comunicado que esta cooperación actualmente es sólo para uso no confidencial a través de "genai.mil". Para expandirse sobre esta base a otros entornos (como redes confidenciales), será necesario firmar un acuerdo nuevo o revisado.
En comparación con OpenAI, el proceso de negociación de Anthropic con el Pentágono es más tenso y complicado. Los ejecutivos de la compañía han dejado claro a los oficiales militares que no quieren que su tecnología se utilice para apuntar armas autónomas o para vigilancia a gran escala en Estados Unidos. Los productos de Anthropic incluyen el chatbot "Claude".
Un portavoz de Anthropic dijo que la compañía está "comprometida a mantener el liderazgo de EE. UU. en IA y ayudar al gobierno de EE. UU. a responder a amenazas extranjeras proporcionando al combatiente capacidades de IA de última generación". El portavoz dijo que Claude ha sido ampliamente utilizado en múltiples misiones de seguridad nacional del gobierno de Estados Unidos y que la compañía mantiene un "diálogo productivo" con el "Departamento de Guerra" sobre cómo continuar avanzando en la cooperación relacionada.
Por orden del presidente Donald Trump, el Departamento de Defensa de Estados Unidos está avanzando con planes para cambiar su nombre por el de Departamento de Guerra, sujeto a la acción legislativa del Congreso.