Resumen:
En febrero de 2026, una escuela primaria en Minab, una pequeña ciudad en el sur de Irán, fue atacada por dos misiles Tomahawk el primer día de la guerra. El ataque aéreo mató a más de 150 personas, al menos 123 de ellos niños. Un documento de revisión interna del Pentágono muestra que un sistema de objetivos de inteligencia artificial desarrollado por Palantir jugó un papel clave en la tragedia.
Los investigadores descubrieron que los analistas del Comando Central de EE. UU. depositaban una confianza casi ciega en un sistema llamado Maven Smart System.
Al mismo tiempo, una nota clave de inteligencia que podría haber corregido un error de cálculo fatal quedó encerrada en un sistema aislado que a nadie le importaba y nunca fue comunicada a las personas que formularon el plan de ataque aéreo.
Una tragedia evitable se ha convertido en realidad paso a paso.
Ahora, este documento de investigación expuesto está volviendo a poner en el centro de atención la cuestión de los límites de la toma de decisiones militares asistida por IA.
Triple caída: IA, inteligencia antigua y cadenas rotas
Según el documento interno obtenido por Bloomberg, los investigadores concluyeron que hubo tres fallas superpuestas.
La primera es la dependencia excesiva del sistema de IA: algunos usuarios esperan que Maven marque automáticamente registros obsoletos o información contradictoria, pero no pueden explicar por qué el sistema hace esto.
En segundo lugar, los datos de inteligencia en sí están seriamente desactualizados. Las instalaciones de Minab han sido catalogadas como instalaciones del Cuerpo de la Guardia Revolucionaria Islámica de Irán durante mucho tiempo utilizando información antigua.
Al final, el personal responsable de verificar los objetivos y evitar lesiones accidentales a los civiles se redujo significativamente. Las tres omisiones se superpusieron y desembocaron en la tragedia final.
Ninguno de los tres puede ser fatal por sí solo, pero cuando ocurren simultáneamente en la cadena de toma de decisiones de un mismo misil, el resultado se vuelve irreversible.
Sistema Maven: Las preocupaciones ocultas detrás de las decisiones minuciosas
Maven Smart System se denomina "plataforma de orientación e integración de datos basada en inteligencia artificial" que se utiliza para acelerar el análisis de inteligencia y la toma de decisiones.
Puede comprimir en solo unos minutos la tarea de marcar una lista de objetivos que originalmente tardaba horas en completarse.
El costo de mejorar la eficiencia es que el proceso de revisión se comprime sistemáticamente, dejando cada vez menos tiempo y espacio para la revisión manual.
Las imágenes de satélite comerciales han mostrado el problema durante mucho tiempo: en 2017, la valla de la escuela estaba físicamente separada de la base militar adyacente; En 2018, las imágenes capturaron claramente los coloridos letreros de la cerca, el campo de fútbol y el área de juegos.
Palantir respondió más tarde que la empresa no es responsable de los datos subyacentes y no es responsable de identificar fallas de inteligencia.
Después de los ataques aéreos, la empresa añadió nuevas funciones al sistema para reexaminar la inteligencia básica y señalar contradicciones e inexactitudes que pueden haber pasado desapercibidas en la revisión manual. Se dice que se han descubierto anomalías similares.
Es sólo que todo esto llegó demasiado tarde.
Para los analistas estacionados en primera línea en ese momento, los juicios emitidos por el sistema a menudo se consideraban respuestas listas para usar en lugar de información de referencia que necesitaba verificación cruzada.
Nota olvidada: una alerta que nunca llegó
Ya en 2019, un analista había notado cambios en las instalaciones de Minab y los documentó.
Sin embargo, este registro se almacena en un sistema que no está conectado a la base de datos principal de inteligencia militar, actuando como una isla de información.
Nunca se transmitió a las personas que finalmente formularon el plan para el ataque aéreo, como una carta que nunca se envió.
Lo que es aún más alarmante es que el número de equipos dedicados responsables de verificar objetivos y evitar lesiones accidentales a civiles se ha reducido en aproximadamente un 90% en los últimos años.
El equipo pertinente del Comando Central una vez se redujo de 10 personas a solo 1 persona, lo que resultó en que nadie realizara una revisión final de esta instalación antes de que se lanzara el misil.
Los errores técnicos son sólo superficiales. Las verdaderas lagunas están ocultas en el despliegue humano y el diseño de procesos.
Un registro que debería haberse revisado primero ha estado durmiendo tranquilamente en las grietas del sistema durante varios años.
El enigma de la rendición de cuentas: la caracterización de los crímenes de guerra y la respuesta tardía
El equipo de investigación internacional independiente de las Naciones Unidas concluyó recientemente que Estados Unidos tiene motivos razonables para ser declarado culpable del crimen de guerra de "ataque indiscriminado".
El informe señala que Estados Unidos "no tomó todas las medidas posibles para verificar si la escuela era un objetivo militar". Este incumplimiento del deber fue más allá de una simple negligencia.
En respuesta, un portavoz del Pentágono dijo que "Estados Unidos no tiene como objetivo a civiles", pero se negó a comentar sobre el informe de las Naciones Unidas.
En marzo de este año, más de 120 demócratas de la Cámara de Representantes de Estados Unidos escribieron al Secretario de Defensa preguntándole sobre el papel específico de Maven y otras herramientas de inteligencia artificial en este error de juicio.
El Pentágono aún no ha dado una respuesta pública, citando la investigación en curso.
Este incidente refleja una tendencia más amplia: los militares y los organismos encargados de hacer cumplir la ley dependen cada vez más de herramientas de inteligencia artificial, pero carecen de mecanismos de verificación y rendición de cuentas correspondientes.
Es posible que el verdadero peligro nunca sea el algoritmo en sí, sino el hábito humano de aceptar conclusiones de máquinas sin verificación.
Artículos relacionados:
El ejército estadounidense se preparó para interceptar e inspeccionar barcos chinos debido a inteligencia errónea aportada por un error de juicio de la IA, casi creando un conflicto internacional
Comentarios