El Departamento de Defensa de Estados Unidos dijo a última hora del martes, hora local, que las "líneas rojas" establecidas por la empresa de inteligencia artificial Anthropic sobre el uso de su tecnología hacían que la empresa representara un "riesgo inaceptable para la seguridad nacional". Esta fue la primera respuesta oficial del departamento a una demanda presentada por la empresa por su determinación del "riesgo de la cadena de suministro". Esto se produce después de que el mes pasado el Secretario de Defensa, Pete Hegseth, clasificara a Anthropic como una entidad de "riesgo para la cadena de suministro", y Anthropic pidiera a un tribunal que prohibiera temporalmente al Departamento de Defensa hacer cumplir esa etiqueta.
En una presentación de 40 páginas ante un tribunal federal de California, el Departamento de Defensa declaró que su principal preocupación es que si Anthropic cree que el uso militar viola las "líneas rojas" corporativas de la empresa, la empresa puede "intentar desactivar su tecnología o modificar preventivamente el comportamiento del modelo antes o durante las operaciones de combate". El Departamento de Defensa cree que esta incertidumbre puede afectar directamente el grado de dependencia y controlabilidad de esta tecnología en operaciones de guerra.
La información muestra que Anthropic firmó un contrato de 200 millones de dólares con el Pentágono el verano pasado, que implica el despliegue de su tecnología de inteligencia artificial en sistemas clasificados. Durante las negociaciones posteriores sobre los términos del contrato, Anthropic declaró que no quería que su sistema se utilizara para la vigilancia masiva de estadounidenses y creía que la tecnología aún no era adecuada para su uso directo en la selección de objetivos o decisiones de disparo con armas letales. El Pentágono enfatizó que las empresas privadas no deberían tener la última palabra sobre cómo el ejército usa la tecnología, y las diferencias entre las dos partes sobre los límites de la aplicación de la tecnología se hicieron públicas.
Después de que el Departamento de Defensa clasificara a Anthropic como un "riesgo para la cadena de suministro", generó críticas de muchas partes. Varias organizaciones señalaron que el Pentágono podría haber expresado su posición rescindiendo el contrato sin tener que utilizar la herramienta más letal de identificación de riesgos en la cadena de suministro. Los empleados de muchas empresas de tecnología, incluidas OpenAI, Google y Microsoft, así como múltiples grupos de derechos legales, han presentado presentaciones "amicus curiae" al tribunal para apoyar públicamente la posición de Anthropic.
En la demanda, Anthropic acusa al Departamento de Defensa de violar sus derechos de la Primera Enmienda, argumentando que el gobierno está castigando a las empresas basándose en posiciones ideológicas. La empresa sostiene que las empresas tienen derecho a expresar sus puntos de vista sobre los límites éticos de su tecnología y establecer límites en consecuencia, y no deberían ser etiquetadas como un riesgo de seguridad debido a diferencias de valores con el gobierno.
Actualmente, el tribunal ha programado una audiencia sobre la solicitud de medida cautelar preliminar de Anthropic para el próximo martes. Al cierre de esta edición, Anthropic no ha respondido públicamente al último documento del Departamento de Defensa.
Artículos relacionados:
Anthropic busca que un tribunal de apelaciones detenga la conclusión del Pentágono sobre riesgos para su cadena de suministro