En el actual y vertiginoso desarrollo de la inteligencia artificial (IA), un reciente informe ha levantado alarmas sobre las insuficiencias en la atención hacia el sesgo y los dilemas éticos asociados a esta tecnología. De acuerdo con un estudio actual, un 27.1% de los desarrolladores de IA y un 32.5% de los usuarios finales de estas herramientas no abordan de forma específica los sesgos ni los problemas éticos intrínsecos al uso de la IA.
A medida que la IA transforma rápidamente sectores como el de la salud, ofreciendo avances en los diagnósticos a nivel mundial, también genera serias preocupaciones en el ámbito ético. Estas preocupaciones abarcan desde el potencial sesgo en los sistemas de IA, hasta amenazas a los derechos humanos, sin olvidar su posible impacto negativo en el cambio climático. Con el mercado global de IA proyectado a alcanzar 1.8 billones de dólares para 2030, resulta imperioso confrontar estos desafíos éticos desde sus bases.
El sesgo puede introducirse en cualquier fase del desarrollo de un sistema de IA, siendo la recolección de datos una fuente fundamental. El uso de datos que no reflejan la diversidad o que son representativos de minorías puede arraigar estos sesgos. Además, los riesgos surgen en el etiquetado de datos, donde las diferentes interpretaciones pueden causar disparidades, y durante la formación de modelos, que requieren estructuras balanceadas para manejar entradas variables. Una vez desarrollada, la IA necesita una verificación exhaustiva para evitar la implantación de sesgos dañinos antes de su implementación.
Casos de sesgo han sido claramente documentados en la aplicación de IA en el sector salud, donde los sistemas de diagnóstico asistido por computadora han mostrado menos precisión en pacientes femeninas negras comparadas con sus homólogas blancas. En otro frente, investigaciones académicas han destacado cómo ciertas plataformas tienden a replicar imágenes estereotipadas, representando a hombres en profesiones especializadas como mayores y a mujeres como más jóvenes, perpetuando así sesgos de género.
Asimismo, el uso de IA en el sistema de justicia penal, a través de herramientas de predicción, puede reforzar modelos de discriminación racial al basarse en datos históricos, afectando de manera desproporcionada a comunidades minoritarias.
Sin embargo, los riesgos van más allá del sesgo y la discriminación. La IA enfrenta desafíos éticos adicionales, como asuntos de seguridad, con sistemas vulnerables a hackeos, la difusión de desinformación y potencial reemplazo laboral. En el ámbito de la propiedad intelectual, también se han reportado litigios por el uso indebido de obras protegidas. Estos desafíos subrayan la necesidad de que las empresas integren un enfoque ético en sus desarrollos de IA, asegurando mecanismos de seguridad adecuados.
Con el fin de mitigar estos problemas, algunas organizaciones realizan auditorías regulares. Un 44.1% de los profesionales y un 31.1% de los usuarios finales han indicado el empleo de auditorías como estrategia para evaluar y mitigar el sesgo en sus sistemas. No obstante, una proporción considerable de usuarios (32.5%) y profesionales (27.1%) confesaron no implementar medidas específicas para tratar estos temas, lo que pone de manifiesto una urgente necesidad de mayor conciencia y acción dentro de la industria.
Organismos como la UNESCO han propuesto principios que destacan la importancia de aplicar un enfoque humanista en la IA, promoviendo valores como la proporcionalidad, seguridad, privacidad y no discriminación. Para que la inteligencia artificial beneficie realmente a toda la sociedad, debe estar inmersa en un marco ético que proteja a las minorías y apoye procesos justos en sectores críticos como la salud y la justicia.
