El avance de la inteligencia artificial (IA) está llevando a las máquinas a niveles de autonomía sin precedentes, aumentando la urgencia por lograr transparencia y explicabilidad en estos sistemas. En un reciente panel organizado por el AI Accelerator Institute, expertos de alto nivel discutieron las implicaciones de confiar en sistemas de IA autónomos.
Durante el encuentro, Saradha Nagarajan, ingeniera de datos en Agilent Technologies, resaltó que la confianza en la IA depende de la explicabilidad. Según ella, entender el funcionamiento interno de los modelos mejora la adaptabilidad y fiabilidad de sus predicciones. También enfatizó la importancia de contar con pautas éticas claras y mecanismos de auditoría antes y después de implementar estas tecnologías.
Desde la perspectiva de Pankaj Agrawal de LinkedIn, en sectores regulados, la transparencia es crucial. Los sistemas deben ser supervisados para asegurar que sus decisiones sean acordes a normas éticas claramente definidas, lo que es vital en aplicaciones de alto riesgo.
Ofreciendo un enfoque distinto, Dan Chernoff, científico de datos en Parallaxis, sugirió que la cuestión ética está más asociada con el gobierno y la alineación con normas que con la ética en sí. Insistió en la importancia de poder rastrear las decisiones de la IA hasta sus datos de entrada para detectar y corregir posibles errores.
Por su parte, Keshavan Seshadri de Prudential Financial abordó el impacto de regulaciones como la Ley de IA de la UE en la gestión del riesgo. Propuso que los diseñadores de sistemas de IA deben vincular las decisiones de los agentes a niveles de riesgo específicos, lo que ayudará a identificar sesgos y a construir sistemas más seguros.
La discusión también se centró en la colaboración interfuncional en el desarrollo de IA responsable. Se subrayó la necesidad de incluir a diversas partes interesadas, como líderes de producto y equipos de seguridad, para asegurar el éxito en esta tarea conjunta.
En conclusión, todos los expertos coincidieron en que el diseño específico del dominio es esencial. En sectores regulados, es crucial ajustar las entradas y salidas de los sistemas de IA para que reflejen políticas y restricciones del sector, garantizando así la construcción de sistemas más confiables y seguros que satisfagan las necesidades particulares de cada área.
