En un movimiento que ha sido recibido con notable aceptación, el Departamento del Fiscal del Condado de King, responsable de las acciones judiciales en el área de Seattle, ha emitido una directiva clara a las fuerzas del orden: abstenerse de utilizar inteligencia artificial para la redacción de informes policiales. Este dictamen llega en un contexto donde las empresas tecnológicas están cada vez más interesadas en integrar herramientas de inteligencia artificial generativa en el ámbito de la seguridad pública.
El fiscal en jefe adjunto, Daniel J. Clark, compartió en un memo su preocupación sobre el uso de inteligencia artificial para la creación de narrativas policiales a partir de grabaciones de audio de cámaras corporales. Según Clark, estas tecnologías, aunque prometedoras, aún no están listas para ser implementadas de manera confiable. Actualmente, hay preocupaciones legítimas sobre la precisión de los productos disponibles y el potencial impacto negativo para el sistema de justicia penal.
El memorando subraya la importancia de la intervención humana en la revisión de textos generados por inteligencia artificial, ya que algunos errores son tan sutiles que podrían no ser detectados, incluso cuando un oficial ya ha revisado y jurado la veracidad del informe. Esta precaución se refleja en el deseo de reducir el tiempo que los oficiales invierten en la redacción de informes, algo que tecnologías como DraftOne de Axon están buscando proporcionar a través de automatización.
El escepticismo frente a estas herramientas tecnológicas no solo es compartido por los fiscales, sino que también se considera crítico para otras agencias locales. Los informes policiales desempeñan un papel crucial en el sistema judicial, sirviendo como base para los cargos que los fiscales pueden presentar y para el trabajo defensivo que los abogados llevan a cabo en nombre de sus clientes. La fiabilidad de estos documentos es fundamental y depender de una tecnología no probada podría tener repercusiones significativas.
Este llamado a la cautela en el uso de inteligencia artificial generativa en la redacción de informes policiales marca un precedente, y se anticipa que más oficinas de fiscales en los Estados Unidos podrían adoptar una postura similar para asegurar la integridad y eficiencia dentro del sistema judicial.
