Activistas de la Electronic Frontier Foundation (EFF) han intensificado sus esfuerzos ante los legisladores de California para la aprobación del proyecto de ley S.B. 524. Esta iniciativa, patrocinada por el senador Jesse Arreguín, busca establecer un marco regulatorio para el uso de inteligencia artificial (IA) en la redacción de informes policiales, un área que presenta desafíos significativos en cuanto a transparencia y precisión.
La propuesta incluye una serie de requisitos esenciales. En primer lugar, mandata que todos los informes generados por IA lleven una advertencia clara en cada página, indicando su autoría parcial o total por un ordenador. Esto asegura un nivel de transparencia vital para todas las partes implicadas, como abogados defensores, jueces y supervisores policiales. Además, el proyecto de ley exige la conservación del borrador original, permitiendo una clara identificación de las secciones generadas por IA en comparación con aquellas escritas por un oficial de policía. También se requiere que los agentes firmen y corroboren la exactitud de la información contenida en los informes. Se prohíbe, igualmente, que los proveedores de IA compartan o comercialicen los datos proporcionados por las agencias policiales.
Este enfoque responde a las dificultades actuales en la detección del uso de IA en la policía, como demuestra el caso de Draft One de Axon. Esta herramienta, que elabora informes a partir de grabaciones de cámaras corporales, no cumpliría con los requisitos de la propuesta de ley, lo que obligaría a una reconfiguración hacia una mayor transparencia.
Existen preocupaciones sobre cómo la IA maneja aspectos como el sarcasmo o contextos multilingües, y la falta de seguimiento claro entre las partes del informe escritas por humanos y aquellas generadas por IA. En su estado actual, Draft One no conserva las versiones previas de los borradores, creando un vacío de responsabilidad potencial para los oficiales involucrados.
Considerando la expansión de esta tecnología y su posible normalización en las prácticas policiales, este proyecto de ley emerge como una medida crucial. Aunque no resolverá todas las cuestiones alrededor del uso de IA, representa un avance hacia un control más efectivo de una tecnología que aún no ha sido totalmente regulada. La EFF insta enfáticamente a los legisladores californianos a aprobar el S.B. 524, argumentando que es un paso esencial hacia una mayor responsabilidad y precisión en los informes policiales en la era digital.
