En Utah, un innovador proyecto de ley avanza en el Senado estatal con el objetivo de reforzar la transparencia en el uso de inteligencia artificial (IA) en la redacción de informes policiales. Denominado S.B. 180, este proyecto legisla sobre la necesidad de que las fuerzas del orden público revelen cuando un informe ha sido redactado parcial o totalmente mediante tecnología de IA generativa. Además, contempla la creación de políticas específicas que regulen el empleo de estas tecnologías, incluyendo un aviso obligatorio en los informes generados de esta manera.
El contexto detrás de esta propuesta legislativa se encuentra en la creciente utilización de software de IA para asistir a oficiales en la elaboración de reportes. Un ejemplo notable es la empresa Axon, reconocida por su tecnología aplicada a la seguridad pública, la cual ha introducido una herramienta denominada Draft One. Este innovador recurso emplea el audio captado por cámaras corporales para generar automáticamente informes de incidentes. Sin embargo, mientras esta práctica se extiende, los defensores de derechos civiles y de privacidad advierten sobre los riesgos potenciales, indicando que una simple notificación en los informes no basta para proteger contra los problemas que puedan derivarse del uso de IA.
Uno de los principales desafíos identificados es la capacidad limitada de la inteligencia artificial para interpretar con precisión el lenguaje humano. La experiencia ha demostrado que las IA pueden tener dificultades para gestionar dialectos variados, jerga técnica y metáforas, lo que podría llevar a malentendidos que alteren significativamente el contenido y la precisión de los informes policiales, especialmente en situaciones críticas.
Además, surge una preocupación respecto a cómo la responsabilidad de las acciones humanas podría ser opacada por la intermediación tecnológica. Existen temores de que oficiales deshonestos puedan culpar a la IA de errores o falsedades en los informes, complicando la rendición de cuentas y el esclarecimiento de hechos en procesos judiciales.
En respuesta a este panorama, varias jurisdicciones ya han comenzado a implementar medidas restrictivas. En el Condado de King, Washington, por ejemplo, los fiscales han aconsejado a los oficiales de policía que eviten el uso de IA en la confección de sus reportes, dada la preocupación por las potenciales repercusiones en el sistema judicial.
El debate en torno al uso de la IA en tareas policiales destaca la necesidad apremiante de hacer más transparentes estas prácticas. A medida que esta tecnología continúa avanzando y se integra más en labores de seguridad y justicia, se anticipa que otros estados también emprendan acciones para legislar sobre su uso, asegurando que su implementación no socave la integridad del sistema judicial.
