La creciente adopción de sistemas algorítmicos para la toma de decisiones por parte de los gobiernos de América Latina está generando preocupación en torno a los derechos humanos, según advierte un reciente informe de la Electronic Frontier Foundation (EFF). Este documento alerta sobre los desafíos que el uso de la inteligencia artificial (IA) representa en la región, ofreciendo un marco operativo basado en legislación internacional sobre derechos humanos para mitigar estos riesgos.
Titulado «Estándares interamericanos y uso estatal de la IA para determinaciones que afectan derechos en América Latina: Implicaciones de derechos humanos y marco operativo», el informe proporciona una serie de directrices para que las instituciones estatales implementen sistemas de IA y toma de decisiones automatizada (TDA) de manera responsable. Al centrar su enfoque en la adherencia a la Convención Americana sobre Derechos Humanos y otras normativas internacionales, el documento resalta la necesidad de que estas tecnologías respeten las normas de derechos humanos.
Casos concretos en países como Colombia y Brasil destacan las preocupaciones de EFF. En Colombia, el acceso a programas de protección social depende de un sistema algorítmico llamado Sisbén, que clasifica a los ciudadanos según su pobreza y vulnerabilidad. En Brasil, la implementación del sistema de vigilancia Córtex ha suscitado críticas debido a la falta de controles adecuados y su capacidad de cruzar múltiples bases de datos gubernamentales, lo que implica riesgos significativos para la privacidad de los ciudadanos.
EFF subraya la preocupación por la opacidad de estos sistemas, que dificulta a los ciudadanos entender los procesos detrás de las decisiones automatizadas que afectan sus vidas. Este hermetismo, advierte el informe, tiende a exacerbar desigualdades existentes y afecta de manera desproporcionada a las comunidades marginadas, sin ofrecer mecanismos claros para la restitución de derechos.
La transparencia emerge como un pilar fundamental recomendado por el informe, instando a los gobiernos a informar abiertamente sobre el funcionamiento de los sistemas de IA, los datos utilizados y los procesos de toma de decisiones. Además, se enfatiza la importancia de establecer un debido proceso que permita a las personas impugnar decisiones automatizadas, asegurando así una mayor rendición de cuentas.
El informe no solo hace un llamado a la transparencia, sino que también subraya la vital importancia de la participación pública. Recomienda que los grupos más vulnerables tengan voz en el desarrollo y la implementación de estos sistemas, promoviendo que su participación no sea simplemente un formalismo, sino un proceso integral que contemple auditorías independientes y evaluaciones de impacto en derechos humanos.
A medida que la influencia de la IA en la gobernanza sigue en ascenso, el informe de EFF se posiciona como un llamado urgente a adoptar un enfoque centrado en los derechos humanos en la utilización de estas tecnologías. Destaca la necesidad de asegurar que la implementación de sistemas algorítmicos no solo respete los derechos fundamentales de los ciudadanos, sino que también fomente una gobernanza democrática y equitativa en América Latina.
