Recientemente, ocurrió un incidente escandaloso en el condado de Baltimore, Maryland, EE. UU.:Un sistema local de detección de armas de inteligencia artificial identificó erróneamente la bolsa de copos de maíz Doritos de un estudiante de 16 años como un arma de fuego, lo que provocó que se enviara a la policía armada.
El incidente ocurrió el 20 de octubre. Taki Allen, un estudiante de Kenwood High School, acababa de terminar la práctica de fútbol y se encontraba fuera de la escuela con amigos. De repente, varios coches de policía aceleraron y los policías les apuntaron con armas.
Allen recordó: "Había unos ocho coches de policía dirigiéndose hacia nosotros. Vinieron hacia mí con las armas en la mano y gritaron: 'Tírate al suelo', y pensé: '¿Qué está pasando?'". Describió el miedo en ese momento:"Me hicieron arrodillarme, con las manos atadas a la espalda y esposadas. Luego me registraron y no encontraron nada".
Allen fue sometido por la policía a punta de pistola, y la policía luego le mostró la imagen interceptada por la IA que activó la alarma. En la imagen, el sistema confundió la bolsa de Doritos arrugada que llevaba en el bolsillo con un arma.
"Pensé principalmente: '¿Voy a morir? ¿Me van a matar?' Me mostraron la foto y dijeron que parecía un arma", dijo Allen con miedo persistente.
El sistema de inteligencia artificial que desencadenó el incidente proviene de Omnilert, una tecnología introducida por las Escuelas Públicas del Condado de Baltimore el año pasado que escanea imágenes de vigilancia existentes en tiempo real y alerta inmediatamente a las autoridades cuando detecta un objeto que cree que es un arma.
Allen sostenía una bolsa de cereales y sus manos expuestas y un dedo parecían estar sosteniendo un arma. Omnilert reconoció que se trataba de una falsa alarma, pero argumentó que el sistema "funcionó según lo previsto" y fue diseñado para "priorizar la seguridad mediante una verificación manual rápida".
