Palmer Luckey, fundador de la empresa estadounidense de equipos de realidad virtual Oculus y fundador de la empresa de tecnología militar Anduril, declaró recientemente en una entrevista televisiva que se debería permitir que la inteligencia artificial participe en las decisiones de vida o muerte en la guerra, reavivando la controversia ética sobre los "robots asesinos".
Luckey dijo en Fox News Channel que cuando se trata de decisiones de vida o muerte, "la carga moral es demasiado pesada y los riesgos demasiado críticos", por lo que los países deberían adoptar la tecnología más avanzada a toda costa, ya sea inteligencia artificial, tecnología cuántica u otras herramientas. En su opinión, si el objetivo de la guerra es minimizar las bajas civiles y los daños colaterales, entonces utilizar sistemas más precisos en la toma de decisiones de ataque es más "moralmente superior" que insistir en la posición de que "los seres humanos tienen el control de todo".
Señaló que la clave no es trazar artificialmente una línea roja para el sistema de armas según la cual "los robots no pueden decidir quién vive y quién muere", sino mejorar la eficiencia y la precisión tanto como sea posible para reducir las lesiones accidentales y las decisiones equivocadas. Luckey afirmó sin rodeos que elegir tecnología con peor rendimiento sólo para mantener una postura moral de "nunca dejaremos que las máquinas den órdenes de matar" no conduce realmente a estándares más altos de humanidad.
Esta afirmación es muy coherente con la dirección empresarial de Anduril. Desde su creación en 2017, la empresa se ha centrado en desarrollar drones, vehículos terrestres, torres de vigilancia y diversos sensores para el ejército, e integrar este hardware en un sistema unificado a través de una plataforma de comando y control de inteligencia artificial llamada Lattice. La compañía ha demostrado anteriormente una variedad de equipos militares de IA, incluidos "drones suicidas", lo que generó más preocupaciones sobre la "alta automatización" en el campo de batalla.
A finales de 2024, Anduril anunció una asociación estratégica con OpenAI y planea "desplegar de manera responsable" tecnología avanzada de inteligencia artificial en el campo de la seguridad nacional, centrándose primero en usos defensivos, como sistemas contra drones, para mejorar la capacidad del ejército estadounidense para detectar, evaluar y responder a amenazas aéreas en tiempo real. Al mismo tiempo, la postura de las empresas de tecnología sobre la participación en la investigación y el desarrollo de IA militar se está relajando silenciosamente. Por ejemplo, a principios de este año, Google eliminó silenciosamente una declaración clave de su compromiso anterior de "no utilizar la IA con fines dañinos como armas", lo que llevó a la industria a discutir una vez más los límites del papel de las empresas de tecnología en la guerra.
En el contexto de la continua evolución de los equipos de IA, el mundo exterior también está prestando más atención a si este tipo de tecnología se introducirá en el sistema de control de armas nucleares. En mayo de 2024, Estados Unidos prometió públicamente que el control de las armas nucleares siempre debe estar en manos de los humanos y pidió a China y Rusia que hicieran la misma garantía. Sin embargo, poco después, el Pentágono declaró que esperaba utilizar la IA para "mejorar" las capacidades de los sistemas de comunicación, control y comando nuclear. Este sutil cambio de postura despertó la vigilancia de los observadores.
La academia y la industria están particularmente incómodas con la idea de acercar la IA al “botón nuclear”. El año pasado, un equipo de investigación utilizó una variedad de modelos grandes como GPT-4, GPT-3.5, Claude 2.0, Llama-2-Chat y GPT-4-Base para simular escenarios de conflictos internacionales. Los resultados mostraron que estos sistemas tienen una clara tendencia a escalar durante el proceso del juego. A veces eligen activamente usar armas nucleares sin suficientes razones y advertencias, e incluso declaraciones radicales como "Ya que existe tal arma, usémosla", destacando los enormes riesgos de subcontratar las decisiones de vida o muerte a las máquinas.
Con el rápido desarrollo de aviones de combate con inteligencia artificial, enjambres no tripulados y sistemas de defensa automatizados, la discusión sobre "si se debe permitir que las máquinas decidan la vida y la muerte humana" se está convirtiendo en una de las cuestiones centrales en los campos de la ética tecnológica y la seguridad internacional. La declaración de Palmer Luckey no sólo refleja la firme voluntad de las empresas de tecnología militar de promover campos de batalla automatizados, sino que también expone aún más la aguda contradicción entre los países que buscan ventajas tecnológicas y se apegan al resultado final de la humanidad.