El 9 de marzo se produjeron novedades en el caso de la empresa estadounidense de inteligencia artificial Anthropic que demandó al Departamento de Defensa. Más de 30 empleados de OpenAI y Google DeepMind presentaron una declaración conjunta ante el tribunal, apoyando públicamente la posición de Anthropic en la demanda contra el Departamento de Defensa de Estados Unidos (DOD).
Según documentos judiciales, la declaración decía que la decisión del gobierno de incluir a Anthropic como un “riesgo para la cadena de suministro” era un uso de poder inapropiado y arbitrario y podría tener graves consecuencias para toda la industria de la inteligencia artificial. Los firmantes incluyen a Jeff Dean, científico jefe de Google DeepMind y otras figuras técnicas de peso de la industria.
Anteriormente, el Pentágono de Estados Unidos identificó oficialmente a Anthropic como un "riesgo para la cadena de suministro", una etiqueta que normalmente sólo se aplica a "adversarios extranjeros". Según los informes, el detonante fue la negativa de Anthropic a permitir que el Departamento de Defensa utilizara su tecnología de inteligencia artificial para realizar vigilancia masiva de ciudadanos estadounidenses o para sistemas autónomos de armas de fuego; El Departamento de Defensa insistió en que mientras el uso fuera “legítimo”, los contratistas privados no deberían restringirlo.
Después de que Anthropic presentara dos demandas contra el Departamento de Defensa y otras agencias federales, este "informe amicus curiae" que respalda su posición apareció inmediatamente en el expediente del caso, lo que muestra la tensión dentro de la industria en torno a los límites de las aplicaciones militares de IA. Se informa que la primera persona en revelar esta carta de opinión fue la revista "Wired".
En los documentos presentados ante el tribunal, estos empleados de Google y OpenAI enfatizaron que si el Pentágono "ya no está satisfecho" con los términos del contrato existente con Anthropic, puede rescindir directamente el contrato y pasar a comprar servicios de otras empresas líderes en IA, en lugar de "castigarlos" mediante la identificación de riesgos en la cadena de suministro.
De hecho, casi al mismo tiempo que Anthropic fue catalogado como un riesgo para la cadena de suministro, el Departamento de Defensa llegó a un nuevo acuerdo de cooperación con OpenAI, una medida que también provocó fuertes protestas de algunos empleados dentro de OpenAI. A estos empleados les preocupa que el uso militar de grandes modelos comerciales para llevar a cabo pruebas sensibles afecte el consenso de la industria sobre los límites de seguridad.
La carta de opinión advirtió que si se continúan con tales medidas "punitivas", inevitablemente debilitarán la competitividad de Estados Unidos en inteligencia artificial y la industria científica en general. El documento afirma además que este enfoque también tendrá un efecto paralizador en los debates públicos sobre los riesgos y beneficios de los sistemas de IA contemporáneos en la industria, e impedirá que la comunidad tecnológica mantenga debates sinceros sobre cuestiones de seguridad.
En la actual falta de un marco legal público escrito para el uso de la IA, el documento cree que las diversas restricciones impuestas por los desarrolladores al sistema a través de términos contractuales y medios técnicos son válvulas de seguridad importantes para evitar un abuso catastrófico de la IA. Las "líneas rojas" que Anthropic ha trazado en su cooperación con el ejército, como negarse a participar en vigilancia masiva y sistemas de matanza autónomos, son vistas por el personal conjunto como requisitos de seguridad razonables y necesarios en lugar de "un impedimento para la seguridad nacional".
Vale la pena señalar que muchos de los empleados que firmaron la declaración judicial firmaron previamente una carta abierta pidiendo al Departamento de Defensa que revocara la identificación de riesgos de la cadena de suministro de Anthropic, y pidieron a la dirección de su propia empresa que apoyara públicamente a Anthropic y prometiera negarse a proporcionar sus propios sistemas de inteligencia artificial a los militares para uso unilateral en condiciones de indefensa.
Los analistas de la industria creen que este caso no se trata solo de si una empresa de IA puede cumplir con sus propios objetivos de seguridad a nivel de contrato, sino que también se convertirá en un evento histórico en la forma en que Estados Unidos traza una línea entre las necesidades de seguridad nacional y la gobernanza de la seguridad de la IA. A medida que avance la demanda, se espera que el juego entre las empresas de tecnología, los empleados y el gobierno sobre las aplicaciones militares de IA se intensifique aún más.
Artículos relacionados:
Anthropic demanda al Departamento de Defensa de EE. UU. para bloquear su inclusión en la lista negra de seguridad nacional