Resumen:
Un detective de alto rango de la policía británica está bajo investigación independiente por supuestamente utilizar indebidamente el asistente de inteligencia artificial Copilot de Microsoft durante una investigación criminal. El incidente ha vuelto a generar preocupación sobre los límites de la aplicación de la inteligencia artificial en la aplicación de la ley y la seguridad de los datos confidenciales.
El oficial superior de la policía de Derbyshire se enfrenta a una investigación por presunta falta grave de conducta, según la Oficina Independiente de Conducta Policial (IOPC). La investigación se inició en agosto de este año después de que la policía de Derbyshire presentara voluntariamente un informe de situación al regulador el 23 de junio tras completar una revisión interna.
La investigación va más allá de las tareas básicas de oficina, como el uso de inteligencia artificial para revisar la ortografía y la gramática. Los cargos relacionados indicaron que se sospechaba que el oficial de policía utilizó Microsoft Copilot para participar en la toma de decisiones políticas, evaluar y gestionar riesgos y utilizar IA para proporcionar razones y bases para la toma de decisiones durante la investigación de casos penales. Además, se le acusa de ingresar al sistema información operativa sensible y datos personales involucrados en el caso.
De hecho, el Departamento de Policía de Derbyshire aprobó que los agentes de policía utilicen Microsoft Copilot ya en mayo de 2025 para mejorar la eficiencia en el trabajo. El alcance de la autorización incluye principalmente cuestiones administrativas como redacción de informes, organización de documentos y resumen de información. Sin embargo, la policía también estipula claramente que no se permite introducir datos móviles, información sensible ni datos personales en las herramientas de inteligencia artificial.
Emily Barry, directora de participación de la Oficina Independiente de Conducta Policial, dijo: "Estas acusaciones son de naturaleza grave y deben estar sujetas a una investigación completa e independiente. Los investigadores se centrarán en examinar el uso de Copilot por parte del oficial de mayo de 2025 a junio de 2026 y determinar si su comportamiento violó los estándares profesionales de la policía.
En la actualidad, el oficial de policía ha recibido una notificación de investigación por sospecha de negligencia grave, pero el caso no ha finalizado y la investigación aún está en curso.
El incidente también refleja que la inteligencia artificial está entrando gradualmente en los procesos de trabajo diarios de los organismos encargados de hacer cumplir la ley. Anteriormente, algunos departamentos de policía de los Estados Unidos comenzaron a adoptar el sistema Draft One lanzado por Axon, que puede generar automáticamente borradores de informes policiales basados en las grabaciones de las cámaras corporales. Aunque el contenido final aún debe ser revisado y aprobado por los agentes de policía, persisten las preocupaciones sobre la desinformación que la IA pueda aportar y la excesiva dependencia de las herramientas automatizadas.
Temas similares también han llamado la atención este año. Un informe policial generado por inteligencia artificial en Utah, EE.UU., salió mal. El sistema identificó erróneamente el contenido del audio de fondo y de hecho afirmó en el informe que un oficial de policía "se convirtió en una rana". Afortunadamente, el error se descubrió y corrigió manualmente antes de que se enviara oficialmente el informe.
Al mismo tiempo, el caso involucra la entrada de datos confidenciales en el sistema de inteligencia artificial, lo que también recuerda el incidente que ocurrió en Samsung en 2023. En ese momento, algunos empleados enviaron códigos de programas confidenciales y contenidos de reuniones a ChatGPT para su procesamiento, lo que desencadenó preocupaciones generalizadas entre las empresas sobre los riesgos de seguridad de los datos de la inteligencia artificial generativa.
A medida que más y más agencias públicas comienzan a implementar asistentes de inteligencia artificial, esta investigación puede convertirse en un caso importante para que el sistema de aplicación de la ley británico evalúe las normas de uso de la IA. También puede afectar futuras políticas regulatorias y límites de aplicación de la inteligencia artificial en el trabajo policial.
Comentarios