El legislativo de California ha dado un paso significativo al aprobar el proyecto de ley S.B. 524, que busca regular el uso de inteligencia artificial generativa en la redacción de informes policiales. Ahora, la última fase requiere que el gobernador Gavin Newsom firme la ley para que esta se implemente.
La preocupación social es evidente. Estas tecnologías, aunque innovadoras, pueden ocultar información crucial de los registros públicos. Las inversiones sustanciales de empresas en desarrollar inteligencia artificial para el ámbito policial plantean serias dudas sobre la transparencia y precisión de los datos generados.
Uno de los ejemplos más destacados es Axon, que ha presentado Draft One, un producto que integra cámaras portátiles con tecnología de IA. Sin embargo, este desarrollo ha sido criticado por su falta de claridad y riesgos evidentes. Utilizar IA para elaborar narrativas en informes puede omitir matices importantes del lenguaje, aparte de depender únicamente del audio de las cámaras. La responsabilidad recae en los policías para revisar y editar estos documentos, pero muchos pueden optar por confiar ciegamente en el sistema. Además, problemas conocidos con el reconocimiento facial agravan la situación, lo que llevó al fiscal de King County, en Washington, a prohibir el uso local de Draft One debido a su poca fiabilidad.
Otro aspecto preocupante es la posibilidad de excusas para la deshonestidad en los tribunales. Si un oficial presenta un relato discrepante, podría alegar que fue la IA quien erró, introduciendo una capa de plausible deniabilidad que complica la rendición de cuentas.
Estudios indican que Draft One oculta qué secciones de los informes fueron generadas por IA y cuáles por agentes humanos, dificultando la autenticidad de los contenidos.
La S.B. 524 ofrece una oportunidad para que California establezca normas claras sobre el uso de estas tecnologías. El proyecto de ley requiere que los informes redactados por IA contengan advertencias en cada página y que se preserve el primer borrador. Esto permitirá a abogados, jueces y supervisores verificar qué partes provienen de IA. También demanda que los agentes firmen y confirmen la veracidad de los datos, y restringe a los proveedores de IA de compartir la información policial.
Esta legislación es un paso crucial para asegurar que la IA en el ámbito policial se use de manera segura y transparente. Según el proyecto, Draft One de Axon no cumpliría con los nuevos estándares, obligando a la empresa a modificar su herramienta.
Con estas medidas, se insta a la ciudadanía a presionar al gobernador Newsom para que firme la S.B. 524 y refuerce la transparencia en el uso de Inteligencia Artificial en los procesos policiales.
