En una iniciativa que busca aumentar la transparencia en el uso de la inteligencia artificial (IA) por parte de las fuerzas del orden, el gobernador de California, Gavin Newsom, ha firmado el proyecto de ley S.B. 524. Esta legislación requiere que los informes policiales redactados total o parcialmente mediante IA sean claramente identificados como tales. Asimismo, prohíbe a los proveedores comerciales vender o compartir información confidencial manejada por herramientas de inteligencia artificial.
La organización Electronic Frontier Foundation (EFF) ha respaldado esta medida, criticando anteriormente a las compañías que fomentan la elaboración de informes con IA. La normativa exige además la conservación de todas las versiones de los informes para que jueces, abogados y auditores puedan discernir las partes escritas por oficiales de las generadas por software. Esto plantea un reto particular para el uso de Draft One de Axon, una aplicación popular pero que no registra ediciones de autoría, lo que podría forzar a Axon a realizar modificaciones.
El cumplimiento de la nueva ley será monitoreado por la EFF, quien también ha desarrollado una guía para ayudar a los ciudadanos a solicitar acceso a documentos públicos sobre el uso de tecnología en informes policiales. Tras una legislación similar en Utah, California se une como el segundo estado en abordar esta cuestión.
La comunidad continúa debatiendo el impacto potencial de la IA en el sistema de justicia penal y la posibilidad de que estas herramientas incumplan con las normativas de conservación de registros. Sin embargo, la aprobación de S.B. 524 es vista como un avance importante y se espera que inspire a otros estados a legislar de manera más rigurosa sobre el uso de IA en contextos legales.
