En 2024, el uso de tecnologías de toma de decisiones algorítmicas (ADM) ha alcanzado un nivel de influencia sin precedentes, generando preocupaciones significativas en torno a la libertad personal y el acceso a servicios básicos como la medicina y la vivienda. La Electronic Frontier Foundation (EFF) ha estado en primera línea, advirtiendo sobre los potenciales riesgos que estas tecnologías presentan para los derechos humanos.
A lo largo del año, se ha registrado una creciente adopción de ADMs por parte de empleadores, reguladores y fuerzas del orden. Sin embargo, la EFF ha exprimido su preocupación respecto a la tendencia de estos sistemas a replicar y potencialmente amplificar los sesgos presentes en los datos con los que son entrenados. Por ejemplo, los algoritmos podrían perpetuar injusticias históricas si se nutren de datos sesgados sobre arrestos o aprobaciones médicas, y enfrentarse a estos resultados se vuelve complicado debido a la falta de transparencia inherente en su funcionamiento.
Un tema crucial es la utilización de estas tecnologías como justificación para decisiones ya sesgadas. Muchas veces, la introducción de un ADM en instituciones gubernamentales se realiza de manera discreta, sin el escrutinio público que un cambio significativo en políticas debería conllevar. Esto podría exacerbar las desigualdades y afectar desproporcionadamente a las poblaciones más vulnerables.
La fiebre por la inteligencia artificial ha llevado a la inversión en herramientas que, más que ofrecer soluciones, presentan desafíos en términos de rendición de cuentas y transparencia. La EFF ha puesto el foco en cómo las fuerzas de seguridad utilizan inteligencia generativa para elaborar informes policiales, lo que podría amenazar la verdad y la claridad en los procesos judiciales.
El sector privado tampoco ha escapado a esta controversia. Las ADMs están siendo cada vez más utilizadas para decisiones cruciales relacionadas con el empleo, la vivienda y la atención médica. La percepción pública es de creciente preocupación, con una mayoría de estadounidenses expresando su incomodidad ante esta práctica. A pesar de las promesas de eficiencia y productividad, estos sistemas están lejos de cumplir con las expectativas.
No obstante, las ADMs aportan la posibilidad de eliminar decisiones discriminatorias en un esfuerzo por cumplir con las leyes de derechos civiles. Aun así, la urgencia por maximizar datos de usuarios ha impulsado prácticas invasivas de privacidad, un tema que la EFF aborda promoviendo un enfoque centrado en la protección de estos derechos.
En un reciente episodio de su popular podcast, la EFF discutió tanto los peligros como las oportunidades que ofrece la inteligencia artificial, abogando por un uso responsable que no comprometa la dignidad y el bienestar de las personas. El mensaje es claro: sin cambios sustanciales, el potencial de la tecnología para causar daño puede superar sus beneficios, subrayando la necesidad de un escrutinio serio y de medidas de rendición de cuentas en el futuro.
