Resumen:
Una escuela secundaria en Pensilvania, EE. UU., decidió recientemente desactivar un sistema de detección de armas que utiliza tecnología de inteligencia artificial. Aunque el sistema había estado recopilando datos y entrenando en las escuelas durante meses, no había podido distinguir de manera confiable entre armas de fuego y artículos comunes que los estudiantes llevan consigo todos los días, y con frecuencia emitía falsas alarmas. Al final, la escuela concluyó que el equipo aún no había alcanzado el estándar para su uso real.

La escuela involucrada es la escuela secundaria del área de Hempfield en Pensilvania. La escuela participó en un proyecto piloto realizado por CurvePoint para probar un sistema de detección de armas con inteligencia artificial llamado Wi-AI. CurvePoint es una empresa de nueva creación originada en la Universidad Carnegie Mellon que se especializa en el desarrollo de tecnología que utiliza señales inalámbricas para la detección de seguridad.
Wi-AI se diferencia de los detectores de metales tradicionales en que no requiere que los estudiantes coloquen sus pertenencias en la bandeja ni depende de cámaras para identificar objetivos. En cambio, utiliza señales de radio Wi-Fi para determinar la forma y las características de las personas y sus pertenencias.
El sistema instala pequeños sensores llamados SensePods cerca de la entrada de la escuela. Cuando una persona pasa cerca del sensor, el dispositivo mide los cambios en las ondas de radio reflejadas en la superficie del cuerpo humano y sus pertenencias, y luego el software analiza estas señales para buscar características similares a las de armas ocultas. Una vez que se descubre un objetivo sospechoso, el sistema puede alertar al personal de la escuela mediante mensaje de texto, correo electrónico o el panel de control administrativo.
CurvePoint dijo que el sistema no requiere cámaras y puede analizar el flujo de personas y la ocupación del edificio sin almacenar información de identificación personal.
Las escuelas de Hempfield comenzaron a participar en las pruebas el año pasado. Los sensores instalados cerca de la entrada recopilan datos continuamente a medida que los estudiantes pasan, e incluso después de que los estudiantes ingresan al edificio, el sistema continúa recopilando datos para mejorar el modelo de reconocimiento.
Sin embargo, los resultados reales de las pruebas no fueron ideales. El sistema a menudo identifica artículos comunes que llevan los estudiantes como armas potenciales, incluidas carpetas, botellas de agua de metal y baterías portátiles. Debido a la amplia variedad de dispositivos electrónicos y otros artículos que los estudiantes llevan consigo a diario, es difícil para los sistemas diferenciar con precisión entre artículos verdaderamente peligrosos y parafernalia ordinaria.
La escuela originalmente esperaba que el modelo eventualmente alcanzara una precisión de reconocimiento del 95%. Sólo después de alcanzar este estándar sería posible utilizarlo como el principal sistema de detección de seguridad de la escuela. Pero el Dr. Mark Holtzman, superintendente del distrito escolar de Hempfield, admitió que el sistema aún está lejos de la meta del 95%.
El problema, afirmó Holtzman, no es que el sistema no pueda detectar nada en absoluto, sino que hay demasiados falsos positivos para cumplir con los requisitos de implementación reales. Señaló que factores ambientales y problemas durante la transmisión de datos han afectado la estabilidad y consistencia del sistema.
Skip Smith, cofundador y director ejecutivo de CurvePoint, dijo que Hempfield ha sido un sitio de prueba y evaluación para la tecnología de seguridad escolar de la compañía, en lugar de un sitio de implementación formal.
Smith reconoció que las pruebas han ayudado a la empresa a comprender el rendimiento del sistema y, al mismo tiempo, han expuesto problemas ambientales que afectan la confiabilidad y la coherencia. Dijo que la compañía continuará desarrollando y evaluando la tecnología, pero actualmente no respalda el despliegue operativo formal y no tiene un cronograma firme para su regreso al servicio.
Debido a que el proyecto piloto finalmente no entró en la etapa operativa completa, se reembolsará el pago anterior de la escuela por el equipo de detección. Holtzman dijo que la escuela todavía está dispuesta a continuar brindando un entorno de pruebas para CurvePoint en el futuro. Si la empresa necesita utilizar las instalaciones del campus para realizar formación adicional, ambas partes pueden seguir cooperando.
Después de que se retire Wi-AI, Hempfield High School seguirá utilizando el sistema de detección de armas OpenGate que ha estado en funcionamiento durante muchos años. La escuela dijo que actualmente está bastante satisfecha con el funcionamiento de este conjunto de equipos tradicionales.
Esta no es la primera vez que el sistema de seguridad del campus de IA ha cometido un error grave. En 2025, ocurrió un incidente similar en la escuela secundaria Kenwood en el condado de Baltimore, Maryland, EE. UU. Un estudiante de 16 años fue rodeado por la policía y esposado después de que un sistema de inteligencia artificial que ejecutaba una cámara de vigilancia de la escuela confundiera una bolsa de Doritos que tenía en la mano con un arma.
La tecnología de detección de armas mediante IA ha atraído la atención de las escuelas y los gobiernos locales estadounidenses en los últimos años. Algunos sistemas intentan utilizar inteligencia artificial, sensores inalámbricos y tecnología de detección electromagnética para identificar peligros potenciales sin necesidad de que los estudiantes saquen sus pertenencias. Sin embargo, en la implementación real, el equilibrio entre la tasa de falsas alarmas, la sensibilidad de detección y el entorno complejo del campus sigue siendo un problema difícil.
Los resultados de las pruebas de Hempfield también muestran que el buen rendimiento del sistema de IA en un laboratorio o en un entorno limitado no significa que pueda adaptarse directamente a escenarios complejos en los que cientos o incluso miles de estudiantes llevan diversos artículos dentro y fuera del campus todos los días. Para los dispositivos involucrados en la seguridad del campus, demasiadas falsas alarmas no solo aumentan la carga del personal, sino que también pueden causar que las alarmas reales queden ahogadas en una gran cantidad de indicaciones no válidas.
Comentarios