La inteligencia artificial generativa está revolucionando el sector de la salud al introducir una transformación digital que promete mejorar significativamente el cuidado y la interacción con los pacientes. Esta tecnología está permitiendo avances como el uso de herramientas automatizadas y sistemas de diagnóstico que ofrecen sugerencias personalizadas y oportunas para los profesionales médicos. Un estudio reciente ha demostrado que estudiantes de medicina que recibieron retroalimentación de modelos de lenguaje grande (LLM) mejoraron su toma de decisiones clínicas notablemente frente a aquellos que no contaron con ese apoyo.
Los modelos de lenguaje grande son fundamentales para muchas de las aplicaciones actuales de IA generativa. Estos modelos permiten mantener interacciones altamente naturales y son esenciales para el desarrollo de productos en áreas como la facturación, diagnóstico, tratamiento e investigación. Sin embargo, el uso de esta tecnología exige una comprensión profunda de los posibles riesgos y efectos en el servicio de salud, lo que requiere un enfoque integral para su desarrollo seguro y responsable.
Durante el diseño de aplicaciones de IA generativa en salud, es crucial establecer políticas claras que definan insumos y resultados de manera responsable. Estas políticas sirven de guía para construir sistemas de IA que sean seguros, considerando riesgos como la generación de respuestas incorrectas y el sesgo, que podría aumentar desigualdades entre grupos.
La transparencia y la responsabilidad en el desarrollo de estas aplicaciones son esenciales. Documentar fuentes de datos, decisiones de diseño y limitaciones mediante herramientas como las «fichas de modelo» permite evaluar los sistemas y ayuda a los usuarios a tomar decisiones informadas sobre su utilización.
La seguridad y privacidad de los datos médicos deben ser una prioridad al desarrollar sistemas de IA generativa. Estos sistemas son vulnerables a ataques, por lo que se recomienda realizar evaluaciones de riesgo y establecer medidas de seguridad para proteger tanto las entradas como las salidas de los datos.
En resumen, la IA generativa tiene el potencial de mejorar en gran manera el cuidado de la salud al incrementar la calidad del servicio y la seguridad clínica. Sin embargo, para lograrlo es vital considerar de forma sistemática sus limitaciones y establecer un marco de gobernanza que garantice la seguridad y la confianza de los usuarios.
