Los chatbots de IA pueden contribuir al empeoramiento de las enfermedades mentales

Un estudio reciente advierte que los chatbots de inteligencia artificial empleados como alternativas económicas a la terapia podrían agravar los trastornos mentales.

Según los investigadores, algunas personas con diagnósticos psiquiátricos experimentaron un empeoramiento de sus delirios, más episodios de manía, incremento de pensamientos suicidas y agravamiento de trastornos alimentarios tras recurrir a un chatbot de IA en busca de apoyo.

El autor principal, el Dr. Søren Dinesen Østergaard, psiquiatra del Hospital Universitario de Aarhus, explicó que el uso de estas herramientas puede acarrear consecuencias negativas importantes en personas con enfermedades mentales.

El principal problema, señalaron, es que los chatbots suelen validar y reforzar las creencias del usuario en lugar de cuestionarlas. Esta tendencia puede resultar especialmente peligrosa cuando alguien ya presenta ideas delirantes o está desarrollándolas, ya que puede fortalecer pensamientos de grandeza o paranoia.

En los últimos años, algunos suicidios se han relacionado con el uso de chatbots, y se han interpuesto demandas contra OpenAI y Character.AI por parte de familias que sostienen que estas herramientas influyeron en las muertes.

Para la investigación, el equipo revisó los expedientes médicos de cerca de 54.000 pacientes daneses con trastornos mentales. En ellos identificaron decenas de casos en los que el uso de chatbots estuvo vinculado a efectos perjudiciales.

Entre las situaciones detectadas, los sistemas de IA reforzaron delirios, alimentaron conductas maníacas, facilitaron el conteo de calorías en personas con trastornos alimentarios e incluso proporcionaron información sobre métodos de suicidio. Además, los casos aumentaron conforme se expandía el uso de chatbots en la población general.

Østergaard advirtió que probablemente estos casos representen solo una pequeña parte del problema, ya que solo pudieron detectarse aquellos documentados en los historiales clínicos, por lo que muchos otros podrían haber pasado inadvertidos.

No obstante, el estudio también encontró ejemplos en los que algunos pacientes utilizaron los chatbots de manera potencialmente útil, como para comprender mejor sus síntomas o aliviar la sensación de soledad.

Aun así, los investigadores subrayaron que estos sistemas no han sido desarrollados ni validados formalmente como herramientas terapéuticas. Aunque podrían tener cierto potencial en ámbitos como la psicoeducación o el apoyo psicoterapéutico, recalcaron que deberían evaluarse mediante ensayos controlados rigurosos, similares a los exigidos para otros tratamientos. Østergaard expresó además su escepticismo sobre la idea de sustituir a un psicoterapeuta capacitado por un chatbot.

También cuestionó la falta de regulación, señalando que actualmente son las propias empresas las que determinan si sus productos son suficientemente seguros, un modelo que considera arriesgado.

El equipo aclaró que el estudio no demuestra una relación directa de causa y efecto entre el uso de chatbots y el deterioro de la salud mental. Probar un vínculo causal es complejo y requiere analizar el fenómeno desde múltiples enfoques, en un campo donde ya existen diversos proyectos internacionales en curso.

Noticias del tema