Según noticias del 7 de junio, se pidió a varias fuerzas policiales de Inglaterra y Gales que dejaran de utilizar herramientas de inteligencia artificial para preparar declaraciones judiciales y documentos de justicia penal porque los errores en los resultados relevantes afectarán la confiabilidad de los procedimientos legales posteriores. Según un informe del Financial Times del 5 de junio, la solicitud fue realizada por Alex Murray, jefe de trabajo de IA en la policía británica.

Murray también es director de la Agencia Nacional contra el Crimen y jefe de asuntos de IA en el Consejo de Jefes de Policía Nacional (NPCC). El Reino Unido acaba de anunciar en enero de este año que invertirá 115 millones de libras para construir un centro de inteligencia artificial de la policía nacional para promover un uso más unificado de la inteligencia artificial por parte de las 43 fuerzas policiales de Inglaterra y Gales.

Los materiales judiciales no pueden depender únicamente de la "verificación previa a la presentación"

Lo que se está deteniendo esta vez son materiales que entrarían en el proceso de justicia penal, incluidas declaraciones judiciales y documentos de casos relacionados. Para los agentes de policía, los informes escritos por IA parecen ahorrar tiempo; pero para los testigos, acusados ​​y fiscales, el problema es que estas palabras pueden convertirse en la base para juzgar si los hechos y procedimientos del caso se cumplen.

Si AI escribe en los materiales hechos inexistentes, cronogramas confusos o resúmenes erróneos, y el personal posterior utiliza este material para organizar el caso, preparar declaraciones de evidencia o presentarlo al tribunal, el error ya no es solo una "sentencia incorrecta", sino que puede extenderse a lo largo de la cadena de manejo del caso. La llamada "verificación de la salida de la IA" en este tipo de escenario también es difícil de resolver con un solo mensaje: ¿debe el verificador verificar cada hecho y cada cita, o simplemente juzgar si el texto es fluido? Si la respuesta es hacerlo todo de nuevo, se compensará el tiempo ahorrado por la IA.

La Fiscalía de la Corona Británica (CPS) ha emitido una declaración sobre ética de la IA, enfatizando que las herramientas de IA deben usarse bajo supervisión humana, con especial énfasis en la equidad, la transparencia y la rendición de cuentas. Sin embargo, una vez que los documentos policiales de primera línea entran en el proceso penal, los límites de la responsabilidad son más sensibles que en los entornos de oficina ordinarios: es necesario mantener registros claros de quién redactó los materiales, quién los verificó y quién es responsable de los errores.

El partido de fútbol ficticio de enero de este año ha hecho sonar la alarma

La policía británica se ha vuelto cautelosa respecto de los riesgos de los documentos de IA, algo que no carece de precedentes. En enero de este año, el ex jefe de policía de West Midlands, Craig Guildford, se disculpó ante el Comité Selecto de Asuntos Internos del Parlamento del Reino Unido por un material de inteligencia que contenía un error de IA.

Este material mencionaba que los fanáticos del club de fútbol israelí Maccabi Tel Aviv (Maccabi Tel Aviv) tuvieron conflictos con el West Ham United de la Premier League, pero el juego correspondiente no existía. The Guardian informó que Guildford admitió que el error se debió a contenido ficticio generado por la policía utilizando Microsoft Copilot.

Este incidente expuso que cuando el contenido generado por IA se incluye en documentos formales de aplicación de la ley o de toma de decisiones públicas, es difícil para los lectores externos juzgar a partir del texto qué contenido se ha verificado originalmente y cuál es solo una representación secundaria después de que se genera el modelo. Cuando se trata de materiales judiciales, esta opacidad afectará directamente los derechos de las partes y la credibilidad del caso.

Los promotores de la policía de IA toman la iniciativa en la retirada de los enlaces más sensibles

El gobierno británico anunció el Centro de Inteligencia Artificial de la Policía en enero de este año con el objetivo de acelerar el establecimiento de un mecanismo unificado de prueba, capacitación y gestión. El NPCC dijo en ese momento que la inversión de £115 millones ayudaría a la policía a resolver crímenes más rápido y se esperaba que liberara alrededor de 6 millones de horas policiales al año, equivalente a la carga de trabajo de unos 3.000 agentes de policía a tiempo completo.

Por lo tanto, esta suspensión se parece más a trazar un límite para la vigilancia policial con IA: la IA puede usarse primero para trabajos de back-end que sean de bajo riesgo, rastreables y fáciles de revisar, como la desensibilización de datos, la detección preliminar de alarmas que no sean de emergencia y la clasificación de información interna; sin embargo, los testimonios judiciales y los documentos de la justicia penal son vínculos de alto riesgo y no pueden abarcarse únicamente con la frase "los seres humanos son los responsables en última instancia".

Si usted es testigo, reportero, sospechoso o acusado en un caso, los materiales de declaración que enfrente deben provenir de alguien a quien se pueda responsabilizar, no de un conjunto de textos de IA cuyo proceso de generación sea difícil de restaurar después. Por supuesto, es importante que la policía ahorre tiempo al redactar informes, pero no a costa de reducir la credibilidad del material judicial.

La suspensión del Reino Unido esta vez no será un caso aislado. En los últimos dos años, ha habido casos en Estados Unidos, Canadá, Australia y otros lugares en los que los abogados citaron casos de IA artificial y los tribunales emitieron directrices para el uso de la IA. Ahora el riesgo ha aumentado debido a que los abogados presentan documentos a los expedientes subyacentes de la policía. La verdadera dificultad para que la IA ingrese al sistema judicial no radica en la calidad de la generación de texto, sino en si cada declaración que pueda afectar los derechos de otros puede ser verificada, rastreada y responsabilizada.