En 2024, la Electronic Frontier Foundation (EFF) inició un esfuerzo por abordar las crecientes inquietudes sobre la utilización de inteligencia artificial (IA) en la elaboración de informes policiales. Desde entonces, el empleo de esta tecnología ha experimentado un auge notable, desatando un intenso debate centrado en su confiabilidad y su ética. En el centro de esta controversia se encuentra Draft One, la herramienta de IA más popular creada por Axon, líder en el suministro de cámaras corporales a cuerpos policiales en Estados Unidos.
Existen serias preocupaciones respecto al uso de la IA en este ámbito. Los informes generados por IA carecen de pruebas concluyentes sobre su eficacia y transparencia, algo problemático en un sistema judicial que se basa en estos documentos para determinar la libertad de individuos. Un ejemplo claro de estas preocupaciones es la decisión de la oficina del fiscal del condado de King, en Washington, de prohibir el uso de IA para la creación de estos informes, citando que, pese a no oponerse al progreso tecnológico, las herramientas actuales generan escepticismo y posibles injusticias.
El informe reciente de EFF puso de manifiesto inquietudes sobre el diseño de Draft One por parte de Axon, ya que la IA es capaz de generar un borrador preliminar basado en el audio captado por cámaras corporales, borrando posteriormente este borrador. Esto dificulta la verificación de qué partes fueron escritas por el oficial y cuáles por la IA, presentando un riesgo notable: en caso de que un oficial sea acusado de perjurio, podría argumentarse que las discrepancias en su testimonio fueron producto de la IA.
Este año, la resistencia frente a los informes policiales redactados por IA ha aumentado. En Utah, se aprobó una ley que exige que los informes contengan una advertencia sobre el uso de IA y obliga a los oficiales a certificar su precisión. Por su parte, California implementó una normativa aún más estricta que obliga a revelar el uso de IA en la redacción de informes y a conservar los borradores iniciales para facilitar auditorías.
Conforme crece la preocupación sobre el uso de IA en la esfera policial, se prevé que más estados tomen medidas legislativas para regular o incluso prohibir el empleo de esta tecnología en la creación de informes policiales.
