Uso de chatbots de inteligencia artificial en salud incrementa el riesgo de información errónea

La llegada de los chatbots de inteligencia artificial al ámbito de la salud está transformando la manera en que las personas consultan información médica. Herramientas como ChatGPT, Gemini y otros sistemas conversacionales se han vuelto populares por ofrecer respuestas inmediatas, incluso para quienes no tienen acceso frecuente a servicios médicos.

Sin embargo, el uso creciente de estas plataformas también genera dudas sobre su confiabilidad y los riesgos de recibir orientación médica automatizada.

Un estudio internacional reciente, publicado en la revista BMJ Open, pone de relieve estas preocupaciones. La investigación señala que cerca de la mitad de las respuestas proporcionadas por los principales chatbots pueden ser inexactas, problemáticas o incluso peligrosas.

En este sentido, los autores advierten que, aunque estos sistemas parecen precisos y rápidos, presentan limitaciones importantes en la calidad y seguridad de la información que ofrecen.

Resultados del análisis

El informe evaluó cinco modelos ampliamente utilizados —Gemini 2.0, DeepSeek V3, Llama 3.3, ChatGPT 3.5 y Grok 2— mediante 250 preguntas sobre temas sensibles como cáncer, vacunas, células madre, nutrición y rendimiento físico.

Los resultados muestran una tendencia preocupante: el 49.6 % de las respuestas fue considerado problemático o riesgoso, mientras que solo el 50.4 % cumplió con estándares médicos adecuados.

Por qué fallan estos sistemas

Las fallas se deben a la forma en que funcionan estos modelos. No realizan razonamiento clínico, sino que generan respuestas a partir de predicciones estadísticas del lenguaje. Esto les permite ser convincentes, pero también aumenta la probabilidad de errores o de reforzar información sin respaldo científico.

Además, la falta de advertencias claras sobre sus limitaciones incrementa el riesgo de que los usuarios confíen en datos incorrectos o recomendaciones potencialmente dañinas.

El estudio también encontró que las preguntas abiertas generan más errores (32 %) en comparación con las preguntas cerradas (7.2 %). Aunque los resultados fueron mejores en temas como vacunas y cáncer, los mayores fallos se concentraron en nutrición y rendimiento deportivo. Entre los modelos analizados, Grok destacó por generar más respuestas peligrosas.

Otro punto crítico fue que los sistemas casi nunca se negaron a responder: solo el 0.8 % de las preguntas fue rechazado, lo que aumenta el riesgo al abordar temas delicados.

Calidad de la información y accesibilidad

La investigación también evidenció deficiencias en las referencias científicas. En promedio, solo el 40 % de las respuestas incluía fuentes adecuadas. Algunos modelos ofrecieron más referencias en preguntas cerradas, pero en general la calidad fue limitada.

Además, la complejidad del lenguaje utilizado exige un nivel educativo elevado para comprender la información, lo que dificulta su acceso para una parte importante de la población.

Implicaciones y recomendaciones

Los investigadores subrayan que la alta proporción de respuestas inadecuadas, junto con la seguridad con la que se presentan, obliga a utilizar estas herramientas con cautela.

Aunque los chatbots pueden ser útiles como apoyo informativo, no deben sustituir la orientación de profesionales de la salud. La prudencia y el pensamiento crítico son clave para evitar riesgos y tomar decisiones informadas.

Noticias del tema