Un estudio reciente de la Electronic Frontier Foundation (EFF) ha encendido las alarmas sobre el controversial uso del Draft One de Axon Enterprise, una aplicación de inteligencia artificial generativa diseñada para redactar informes policiales a partir del audio captado por cámaras corporales de los oficiales. La investigación sugiere que este sistema podría estar diseñado para esquivar auditorías que garanticen la rendición de cuentas ante el público.
La revisión de documentos de agencias policiales que ya emplean esta tecnología ha revelado la dificultad para identificar qué partes de un informe fueron generadas por inteligencia artificial y cuáles por un agente humano. Esta ambigüedad resulta preocupante, ya que impide evaluar efectivamente los riesgos y la eficacia del sistema.
Draft One, basado en una variante de ChatGPT, procesa exclusivamente el diálogo registrado, lo que cuestiona la precisión y el contexto de la información producida. Si bien los agentes tienen la responsabilidad de revisar y editar los borradores, el no guardar las versiones originales elimina la posibilidad de auditorías independientes.
Preocupa especialmente la cultura de secretismo resaltada por un administrador del Departamento de Policía de Frederick, Colorado, quien comentó: «Nos encanta tener juguetes nuevos hasta que el público se entera». Esta declaración refleja el temor de que los sesgos o errores no se atribuyan de manera clara a la IA o al agente responsable.
Además, la ausencia de registros originales empeora los esfuerzos de auditoría, complicando la atribución de responsabilidades en caso de errores o malinterpretaciones. En el ámbito legislativo, el estado de California se encuentra evaluando un proyecto de ley que exigiría transparencia sobre los informes generados por IA. Sin embargo, la incapacidad del Draft One para almacenar las versiones iniciales de los informes pone en duda su cumplimiento potencial con dicha norma.
Varios fiscales, incluyendo los del Condado de King en Washington, han desaconsejado enérgicamente el uso de esta tecnología, argumentando que su confiabilidad sigue sin ser comprobada. Frente a este panorama, la EFF ha instado a los responsables de los departamentos policiales a considerar los posibles impactos negativos que esta herramienta podría tener en un sistema de justicia que ya enfrenta críticas por su falta de transparencia y equidad.
En última instancia, la introducción del Draft One suscita preguntas clave sobre la integridad de los informes policiales y la responsabilidad en la aplicación de la ley.
