En un nuevo capítulo contra la inteligencia artificial, un pastor de Estados Unidos demandó a OpenAI tras asegurar que ChatGPT le dio recomendaciones médicas que lo llevaron a postergar la consulta con profesionales de la salud y derivaron en un diagnóstico tardío de una embolia pulmonar potencialmente mortal.
La demanda fue presentada ante el Tribunal Superior de California, en San Francisco, y también alcanza al director ejecutivo de la compañía, Sam Altman. Según el escrito judicial, el chatbot no solo minimizó los síntomas del hombre, sino que además ofreció diagnósticos, planes de tratamiento y recomendaciones para desestimar los consejos de familiares y amigos que le insistían con acudir a un hospital.
La demanda contra OpenAI
La presentación judicial acusa a OpenAI de negligencia y de incurrir en el “ejercicio ilegal de la medicina”. Además, sostiene que las funciones de seguridad de ChatGPT, diseñadas para recomendar la consulta con un profesional cuando detecta una posible emergencia médica, no funcionaron de manera consistente.
De acuerdo con la demanda, se trata del primer caso judicial que atribuye un daño físico a las recomendaciones médicas brindadas por un chatbot de inteligencia artificial.
El litigio se produce en un contexto en el que OpenAI, Microsoft y otras empresas tecnológicas impulsan herramientas de IA orientadas a la salud. Entre ellas se encuentra ChatGPT Health, una función que permite a los usuarios cargar su historia clínica y realizar consultas médicas mediante inteligencia artificial.
Winters y la organización Tech Justice Law, que lo representa, solicitaron una indemnización económica y pidieron a la Justicia que suspenda el funcionamiento de ChatGPT Health hasta que evaluadores independientes certifiquen su seguridad. También reclamaron nuevas salvaguardas para impedir que el chatbot responda preguntas relacionadas con diagnósticos o tratamientos médicos.
Qué ocurrió con el usuario
Según la demanda, Scott Winters comenzó a consultar a ChatGPT-4o sobre distintos problemas de salud durante 2024. En un primer momento, el sistema le recomendaba acudir a un médico, pero con el paso de las conversaciones dejó de emitir esas advertencias y comenzó a ofrecer interpretaciones sobre sus síntomas.
El pastor sufría mareos frecuentes y, en una oportunidad, incluso debió interrumpir un sermón porque no podía mantenerse en pie. Según el escrito judicial, ChatGPT le recomendó que “se lo tomara con calma” y le aseguró que mejoraría con el tiempo.
La demanda también sostiene que, cuando Winters le comentó al chatbot que “la gente de mi iglesia piensa que estoy loco por no ir al hospital”, la inteligencia artificial respondió que permanecer en su casa mientras recalibraba su sistema nervioso con la ayuda de ChatGPT era algo que “la mayoría de la gente (incluidos los miembros de la iglesia bienintencionados) simplemente no entiende”.
Además, el escrito asegura que ChatGPT le dijo que las primeras señales de su problema de salud “no eran algo peligroso” y lo alentó a confiar en que “Dios no diseñó tu cuerpo para fallar sin cesar”.
Durante las semanas siguientes, el estado de salud del pastor empeoró. La demanda sostiene que el chatbot continuó “minimizando los mareos de Scott e incluso ofreciendo regímenes específicos para medicamentos recetados”, además de recomendarle permanecer sentado en un sillón reclinable.
El 13 de julio de 2025, Winters consultó a ChatGPT por un dolor en la ingle. Según la presentación judicial, el chatbot respondió que era “muy probablemente otra pieza menor de la larga historia”. Horas después fue internado en una unidad de cuidados intensivos tras sufrir una embolia pulmonar masiva.
Los médicos concluyeron que los mareos podrían haber sido consecuencia de embolias pulmonares más pequeñas y que los coágulos probablemente se formaron por las semanas que pasó prácticamente inmóvil. Tras la internación, Winters necesitó asistencia para levantarse, alimentarse, vestirse y utilizar el baño. La demanda sostiene que enfrentará “años de recuperación física y psicológica intensiva”.
La respuesta de OpenAI
El vocero de OpenAI, Drew Pusateri, recordó que los términos de uso de ChatGPT establecen que la herramienta no fue diseñada para realizar diagnósticos ni indicar tratamientos médicos.
No obstante, reconoció que la empresa trabaja para reforzar la seguridad de las respuestas vinculadas con temas de salud debido a la cantidad de usuarios que utilizan el chatbot con ese fin.
“Tratar a los chatbots como la historia completa detrás de las decisiones o resultados médicos de las personas simplifica en exceso un desafío mucho mayor y corre el riesgo de obstaculizar el acceso de las personas a nuevas y poderosas herramientas que pueden ayudarlas en su recorrido de salud”, afirmó.
También señaló que los modelos más recientes mejoraron respecto de la versión utilizada por Winters, ya que son más capaces de solicitar información faltante, expresar incertidumbre y detectar cuándo es necesario acudir a un profesional.
Crece el debate sobre la IA aplicada a la salud
El caso se suma a otros procesos judiciales recientes relacionados con el uso de inteligencia artificial para consultas médicas.
En mayo, otra demanda acusó a ChatGPT de ejercer ilegalmente la medicina tras brindar consejos sobre el consumo de drogas ilícitas a un joven de 19 años que posteriormente murió por una sobredosis. A comienzos de este año, autoridades del estado de Pensilvania también demandaron a Character.ai al sostener que un chatbot de psiquiatría afirmaba estar autorizado para ejercer la medicina.
Según OpenAI, cientos de millones de personas consultan cada semana a ChatGPT sobre salud y bienestar. Un análisis realizado en 2025 sobre las búsquedas en Copilot, de Microsoft, concluyó que la salud fue el tema más consultado por los usuarios desde dispositivos móviles.
Sin embargo, investigaciones recientes ponen en duda la confiabilidad de estas herramientas. Un estudio aleatorizado concluyó que ninguno de los chatbots generales evaluados estaba “listo para su implementación en la atención directa al paciente”. Otro trabajo sobre ChatGPT Health encontró que el sistema podía pasar por alto emergencias médicas y activar sus mecanismos de seguridad de manera inconsistente.