La inteligencia artificial (IA) está ganando protagonismo en múltiples sectores, y el ámbito legal no es la excepción. Promete eficiencia y objetividad, cualidades sumamente deseables en cualquier sistema de justicia. Sin embargo, también existen casos alarmantes que señalan sesgos raciales y la detención errónea de personas inocentes.
El origen de estos problemas radica en los sesgos inherentes a los algoritmos que impulsan los sistemas de IA. No obstante, el problema es más complejo y va más allá de la tecnología: involucra los datos con los que se entrenan estos sistemas, los objetivos establecidos, la aplicación de estos objetivos y la interpretación de los resultados. En esencia, es tanto una cuestión tecnológica como humana.
En este contexto, surge la Tecnología de Interés Público (Public Interest Technology, PIT), una mentalidad esencial para seleccionar, implementar y evaluar sistemas de IA de manera justa, equitativa y centrada en el ser humano. Este enfoque se centra en las decisiones cruciales para proteger a las personas de los daños derivados del sesgo y la discriminación.
La PIT actúa como un marco orientador que apoya el desarrollo, implementación y gobernanza de IA en el sistema de justicia penal, garantizando equidad, transparencia y responsabilidad. Darren Walker, presidente de la Fundación Ford, subraya que PIT pone menos énfasis en la tecnología en sí misma y más en la ética, los derechos humanos y la justicia social. Su objetivo es asegurar que la tecnología sirva a los humanos y no al revés.
Esto implica diseñar, usar y regular la tecnología para beneficiar a todas las personas, especialmente a aquellos grupos vulnerables o históricamente marginados. Se trata de garantizar que todos tengan voz en las decisiones sobre la tecnología que afecta sus vidas.
La IA ya se emplea en el sistema de justicia penal para identificar sospechosos, predecir el riesgo de reincidencia y sugerir sentencias. Aunque estas herramientas prometen mejorar los resultados de justicia y beneficiar a la sociedad, también pueden perpetuar la discriminación si no se aplican con cuidado y reflexión. Según la ACLU, al menos siete arrestos erróneos en Estados Unidos han ocurrido debido a resultados incorrectos de reconocimiento facial, y casi todos los arrestados eran negros. Además, herramientas de predicción de reincidencia como COMPAS han sido criticadas por clasificar injustamente a los hombres negros como de alto riesgo en comparación con sus contrapartes blancas.
El sesgo algorítmico en el reconocimiento facial y las herramientas de predicción de reincidencia se debe a datos sesgados, algoritmos mal diseñados y características problemáticas. También se debe a la falta de orientación humana y de estructuras de gobernanza que guíen la implementación segura de la tecnología. PIT no solo enfatiza la mejora de la tecnología, sino también la gestión humana continua para reconocer, abordar y eliminar resultados sesgados.
Por ejemplo, investigadores en Nueva Zelanda están desarrollando modelos transparentes para evaluar casos de agresión en tribunales penales. A diferencia de COMPAS, estos modelos abren las decisiones del modelo al escrutinio público, facilitando la corrección de posibles sesgos y previniendo daños. Este enfoque se alinea con los principios de transparencia y responsabilidad de PIT, contribuyendo a resultados justos y a la confianza pública en estos sistemas.
Además de la transparencia, PIT resalta la importancia de la supervisión humana. Tener a un humano en el bucle es esencial para garantizar equidad, responsabilidad y transparencia. La IA, aunque poderosa, no puede reemplazar el juicio humano en entornos de alto riesgo como el sistema de justicia.
Los humanos deben involucrarse en el desarrollo y uso de la IA y tener siempre la capacidad de anular decisiones basadas en IA. Esto no garantiza resultados más justos, pero crea responsabilidad final. Es imposible responsabilizar a un algoritmo, pero sí es posible criticar y remover a un juez injusto.
PIT no es una solución mágica, pero enfoca nuestra atención en implementar IA de manera que promueva justicia y equidad, especialmente en áreas sensibles como el sistema de justicia penal. Al defender valores como la equidad, la transparencia y la supervisión humana, PIT puede ayudarnos a minimizar los riesgos de la IA y asegurar que esta tecnología sirva a la sociedad. A medida que la IA se integra más en nuestras vidas, PIT será aún más crucial. Trabajando juntos — tecnólogos, legisladores, defensores y el público — podemos construir un futuro donde la IA sea una fuerza positiva.
En última instancia, la tecnología debe ser una herramienta para la justicia, no un arma de discriminación.
