Resumen:
Un juez federal de EE. UU. impidió el jueves que el Pentágono incluyera en la lista negra a la empresa de inteligencia artificial Anthropic. Es el último acontecimiento en una disputa de alto riesgo entre el desarrollador del modelo Claude y el ejército estadounidense sobre la seguridad de la inteligencia artificial en el campo de batalla. Anthropic presentó una demanda en un tribunal federal de California alegando que el secretario de Defensa de Estados Unidos, Pete Hegseth, se excedió en su autoridad al designar a la empresa como un "riesgo para la cadena de suministro de seguridad nacional". Según las regulaciones pertinentes, el gobierno puede tomar esta determinación para las empresas que puedan exponer los sistemas militares al riesgo de infiltración o destrucción por parte de partes hostiles.
Este raro movimiento de Hegseth previamente impidió que Anthropic obtuviera algunos contratos militares. La decisión se produce después de que Anthropic se negara a permitir que el ejército estadounidense utilizara el modelo de inteligencia artificial Claude para vigilancia o armas autónomas dentro de Estados Unidos. Los ejecutivos de Anthropic dijeron que la medida podría costarle a la empresa miles de millones de dólares en pérdidas de negocios y dañar su reputación.
EE.UU. La jueza de distrito Rita Lin, nombrada por el expresidente demócrata Joe Biden, dijo en un fallo de 59 páginas que la decisión del Pentágono era "ilegal e infundada".
Escribió: "Las suaves invocaciones de la seguridad nacional no pueden servir como una autorización ilimitada para castigar y tomar represalias contra los críticos del gobierno".
Anthropic acogió con satisfacción el fallo y dijo en un comunicado que la compañía sigue "centrada en trabajar productivamente con el gobierno para utilizar la inteligencia artificial al servicio de la seguridad nacional para que todos los estadounidenses puedan beneficiarse de esta tecnología".
El Pentágono no respondió de inmediato a una solicitud de comentarios.
Anthropic cree que los modelos de inteligencia artificial aún no son lo suficientemente seguros para ser utilizados en armas autónomas; Al mismo tiempo, la empresa se opone a la vigilancia interna, afirmando que viola derechos. El Pentágono dijo que las empresas privadas no deberían tener el poder de restringir las operaciones militares.
La designación del Pentágono es la primera vez que el gobierno de Estados Unidos incluye públicamente a una empresa estadounidense como un riesgo para la cadena de suministro bajo una regulación de adquisiciones gubernamentales poco conocida diseñada para proteger los sistemas militares del sabotaje extranjero.
Anthropic afirmó en su denuncia presentada el 9 de marzo que las represalias del gobierno por su postura sobre la seguridad de la inteligencia artificial violaban el derecho a la libertad de expresión garantizado por la Primera Enmienda de la Constitución de los Estados Unidos. La compañía también dijo que el gobierno violó sus derechos al debido proceso garantizados por la Quinta Enmienda de la Constitución antes de tomar su determinación.
La demanda afirmaba que la decisión era ilegal, carecía de respaldo fáctico y contradecía la actitud positiva de los militares hacia Claude en el pasado.
El Departamento de Justicia de Estados Unidos respondió en documentos judiciales que la negativa de Anthropic a levantar las restricciones relevantes puede impedir que el Pentágono determine el alcance del uso de Claude y puede provocar que los sistemas militares fallen durante las operaciones.
El gobierno dijo que el hallazgo se debió a la negativa de Anthropic a aceptar los términos del contrato, no a sus puntos de vista sobre la seguridad de la inteligencia artificial.
Anthropic también está presentando una segunda demanda en Washington, D.C., por otra determinación de riesgo de la cadena de suministro hecha por el Pentágono. La designación podría dar lugar a que la empresa quede excluida de contratos con el gobierno civil.
Comentarios