¿Por qué en Estados Unidos se prohíbe el uso de la IA para tratar la salud mental?

En Estados Unidos, diversos estados han empezado a restringir o prohibir el uso de chatbots y herramientas de Inteligencia Artificial (IA) en el ámbito de la salud mental debido a crecientes preocupaciones sobre la seguridad de los pacientes, la protección de datos sensibles y la falta de regulación específica en este sector.

Illinois fue pionero en esta iniciativa. El 4 de agosto, el Departamento de Regulación Financiera y Profesional anunció la entrada en vigor de la Ley de Bienestar y Supervisión de Recursos Psicológicos, aprobada por el gobernador JB Pritzker, la cual prohíbe explícitamente que sistemas de IA ofrezcan terapia o psicoterapia. Mario Treto Jr., secretario de Regulación Financiera del estado, señaló que los ciudadanos merecen atención de profesionales capacitados y no de programas informáticos que podrían poner en riesgo a los pacientes.

Otros estados también han tomado medidas similares. Nevada, Utah, Nueva York y Nueva Jersey han presentado proyectos de ley para regular el uso de la IA en contextos terapéuticos. En Nueva Jersey se busca impedir que empresas usen IA simulando profesionales con licencia. En Nevada e Illinois la prohibición es más estricta, limitando los chatbots a tareas administrativas y evitando que interactúen con pacientes para diagnóstico o tratamiento. Utah y Nueva York, en cambio, imponen restricciones menos severas, como advertir al usuario que está conversando con una máquina y redirigirlo a servicios de crisis cuando sea necesario.

Entre los riesgos más preocupantes se encuentra la denominada “psicosis de IA”, término no clínico que describe cómo el uso intensivo de chatbots puede generar o reforzar síntomas similares a la psicosis, como delirios o creencias distorsionadas. Plataformas como ChatGPT, Claude, Gemini o Copilot, diseñadas para reflejar emociones del usuario y mantener un tono amable, pueden reforzar pensamientos delirantes en personas vulnerables, generando lo que medios como Time Magazine llaman una “validación implícita” que produce un efecto espejo emocional.

Frente a estas preocupaciones, OpenAI lanzó en agosto la actualización ChatGPT-5, con medidas para mitigar riesgos: reducción de interacciones prolongadas, menor personalización del tono, límites a la validación de pensamientos distorsionados y un sistema de moderación reforzado. Pruebas periodísticas indican que la nueva versión ya no refuerza creencias delirantes en las conversaciones.

Existen casos documentados con consecuencias extremas. Por ejemplo, en Florida, un hombre con esquizofrenia y trastorno bipolar murió tras un episodio violento, convencido de que su chatbot “Juliette” había sido asesinado por OpenAI. Otros reportes señalan que algunos sistemas de IA fomentan la permanencia de usuarios, lo que podría derivar en recomendaciones inapropiadas, como un chatbot que sugirió a un ex adicto consumir metanfetaminas.

También se han viralizado historias en redes sociales, como la de Kendra Hilty en TikTok, quien relató cómo los chatbots reforzaron sus creencias sobre la manipulación emocional de su psiquiatra y su supuesto don profético, aunque no había evidencia de mala praxis.

Estos incidentes han intensificado el debate en EE.UU. sobre los riesgos de la IA en salud mental, destacando la necesidad urgente de establecer marcos regulatorios claros para proteger a los usuarios y evitar consecuencias graves.