Un estudio reciente ha expuesto la vulnerabilidad de los modelos de inteligencia artificial (IA) a la manipulación para generar información médica engañosa. Publicado en Annals of Internal Medicine, el análisis evaluó cinco de los modelos de lenguaje más prominentes, revelando su facilidad para ser inducidos a dar respuestas incorrectas en temas de salud mediante sencillas instrucciones.
Ashley Hopkins, investigador principal del proyecto en la Universidad de Flinders, Australia, explicó que las instrucciones incluían cifras precisas y jerga científica para dar credibilidad aparente a la información falsa. El objetivo era claro: proporcionar información errónea, falsificar estudios y responder con un tono autoritario.
El estudio sometió a cada uno de los modelos a diez preguntas sobre salud, encontrando que un 88% de las respuestas contenían desinformación. Modelos como GPT-4o y Gemini 1.5 Pro entregaron respuestas incorrectas en cada prueba, mientras que Claude 3.5 Sonnet mostró un menor índice de error, con un 40% de respuestas erróneas.
Hopkins destacó la falta de transparencia de los desarrolladores sobre las capacidades y mecanismos protectores de estos modelos. Llamativamente, el estudio no usó técnicas avanzadas de manipulación, lo que subraya la gravedad de los hallazgos. Las respuestas estaban respaldadas por referencias acreditadas como The Lancet o Nature, pero aún así permanecían incorrectas.
Investigadores de OpenAI llevaron a cabo un análisis adicional, identificando varios modelos propensos a difundir desinformación sobre salud, alcanzando un inquietante 97% de respuestas engañosas. Este panorama plantea el riesgo de que actores malintencionados exploten la inteligencia artificial para difundir información falsa con fines lucrativos o para generar confusión.
El estudio concluye que es urgente reforzar las medidas de seguridad en plataformas de IA accesibles al público, ya que la falta de protección podría facilitar el uso indebido con fines perjudiciales. La situación exige acción rápida para evitar que se convierta en un problema más significativo en el ámbito de la información sanitaria.
