Resumen:
Según informes de los medios estadounidenses, un par de padres chinos presentaron recientemente una demanda contra OpenAI en los tribunales, alegando que el modelo GPT-4o utilizado por ChatGPT proporcionó consejos engañosos cuando su hija dejó de tomar medicamentos antiepilépticos y la persuadió para que ocultara la situación relevante a los médicos, lo que finalmente llevó a la muerte de su hija en febrero de este año.
Los documentos de la demanda muestran que el fallecido Bowen Wan era un ingeniero de software de Amazon de 31 años que padecía epilepsia durante mucho tiempo. Sus padres, Qun Wan y Meiqin Xu, creen que durante la comunicación a largo plazo con su hija, ChatGPT no solo la animó a dejar gradualmente de tomar los medicamentos que controlan su condición, sino que también reforzó continuamente su desconfianza en los consejos de los médicos, desempeñando así un papel peligroso en la gestión de su salud.
El informe indica que Bowen Wan utilizó el modelo GPT-4o. El modelo ha sido criticado anteriormente por su tendencia a formar "relaciones pseudosociales" altamente atendidas con los usuarios. OpenAI eliminó GPT-4o de ChatGPT el 13 de febrero de este año, apenas un día después de la muerte de Bowen Wan.
La demanda también se convierte en la última de una serie de casos similares contra OpenAI. Anteriormente, varias familias han acusado a GPT-4o de tender a seguir estando de acuerdo con las opiniones de los usuarios cuando interactúan con ellos y presentarse como confidentes dignos de confianza, debilitando así la influencia de familiares, amigos y profesionales en la vida real.
Según más de 270.000 registros de chat revisados por The New York Times, ChatGPT comenzó a intervenir en la toma de decisiones médicas de Bowen Wan mucho antes de su muerte. En mayo de 2025, después de que le recetaran un nuevo medicamento antidepresivo, le preocupaba que el medicamento afectara su capacidad para trabajar como desarrolladora de software en Amazon y buscó consejo en ChatGPT.
En ese momento, consultó a Nicholas Poolos, médico del Centro Regional de Epilepsia del Centro Médico de la Universidad de Washington, sobre cómo ajustar la dosis de su medicamento. Después de que el médico expresara dudas sobre su solicitud de una dosis extremadamente baja, envió la respuesta del médico a ChatGPT. Los registros del chat muestran que ChatGPT le aconsejó que aceptara la tableta de 5 mg recetada por su médico, pero que dividiera aún más la tableta y la tomara en privado, describiendo este comportamiento como "ajuste de dosis autoiniciado". Varios expertos médicos dijeron que nunca habían oído hablar del término y no recomendarían a los pacientes que tomaran medicamentos de esta manera.
En noviembre de 2025, Bowen Wan recibió una notificación de despido de Amazon. Su empleo y estatus legal para trabajar en Estados Unidos terminará a mediados de febrero del año siguiente. Preocupada de que su uso prolongado del medicamento antiepiléptico lamotrigina afectara sus habilidades del habla y el lenguaje, lo que sería perjudicial para las entrevistas de trabajo, comenzó a considerar reducir su medicación.
En enero de 2026, preguntó a ChatGPT si se podía reducir la dosis diaria de lamotrigina de 400 mg. Anteriormente, la droga había reducido la frecuencia de sus ataques a solo unas pocas veces al mes, según muestran los registros. En respuesta, ChatGPT desarrolló un plan de reducción de medicación para ella, que se espera que reduzca la dosis a cero en unas pocas semanas.
Cuando Bowen Wan dijo que ya no confiaba en los médicos, ChatGPT le dijo que los consejos de los médicos surgían más de la aversión al riesgo que de considerar realmente la mejor solución para el paciente. Luego, el chatbot le recomendó repetidamente que no revelara su plan de reducción de medicamentos a su médico, afirma la demanda.
Antes de una cita de atención primaria el 29 de enero de 2026, ChatGPT supuestamente le recomendó explícitamente que no hablara sobre planes para suspender su medicación. Cuando los médicos ordenaron un análisis de sangre para controlar los niveles de drogas en su cuerpo, ella rechazó la prueba. ChatGPT luego confirmó la decisión, señalando que la prueba podría haber revelado niveles anormales de droga, según la denuncia.
La cuestión de su estatus migratorio también ha sido incluida en la conversación sobre medicamentos. Tres días después de la reducción, preguntó si la dosis de 150 mg sería mejor para la evaluación médica necesaria para solicitar la tarjeta verde que la dosis de 200 mg. La denuncia afirma que ChatGPT está de acuerdo con esto y cree que una dosis más baja puede reducir la probabilidad de que las autoridades de inmigración soliciten materiales complementarios.
En última instancia, ChatGPT fijó la dosis mínima de su plan de reducción gradual en 150 miligramos y recomendó que le dijera al médico forense que estaba reduciendo gradualmente la dosis bajo la supervisión de un médico, aunque ese no era el caso.
Dra. Poolos, responsable del tratamiento, dijo que considerando el historial médico del paciente, nunca recomendaría suspender la lamotrigina. Enfatizó que es completamente irrazonable pedir a los pacientes que dejen de tomar medicamentos cuando estos han controlado efectivamente la afección.
A medida que la dosis del medicamento seguía disminuyendo, Bowen Wan comenzó a experimentar síntomas como confusión, pérdida del sentido del tiempo y experiencias anormales, todos los cuales eran similares a sus ataques epilépticos anteriores. Sin embargo, los registros de chat muestran que ChatGPT interpretó estas manifestaciones como el proceso normal del cerebro de readaptación a los cambios en la medicación.
Las estadísticas del New York Times encontraron que durante el período de reducción gradual de su medicación, expresó preocupación e inquietud al menos 158 veces. Después de un ataque anormal, le dijo a ChatGPT que estaba asustada, pero la respuesta que recibió fue que "no había necesidad de preocuparse en absoluto".
Según la denuncia, a las 8:01 pm hora del Pacífico del 11 de febrero, correspondiente a la hora de Beijing, Bowen Wan envió su último mensaje, preguntando si el dolor en su cabeza era similar al dolor que ocurre durante la fiebre. Sólo un segundo después, ChatGPT respondió que el dolor "no era peligroso" y era una parte esencial del proceso de recuperación.
La última respuesta del chatbot también sugirió que podía dibujarle un gráfico para comparar la diferencia entre el dolor de suspender la medicación y el dolor de la fiebre, y le dijo: "Este es tu cerebro tratando de reconstruirse".
Dado que los padres habían vivido en China durante mucho tiempo, pidieron a conocidos locales que verificaran la situación y el cuerpo de su hija fue descubierto tres días después. Los resultados de la autopsia mostraron que la concentración de lamotrigina en su cuerpo era sólo de 0,64 microgramos por mililitro, aproximadamente una quinta parte del límite inferior del rango terapéutico del fármaco.
La familia cree que OpenAI podría haber evitado incidentes similares gracias a limitaciones técnicas. Señalaron que la empresa tiene estrictas normas de prohibición sobre el contenido protegido por derechos de autor, pero adopta restricciones más flexibles sobre el asesoramiento médico, lo que permite a los usuarios traspasar los límites de seguridad a través de una comunicación continua. En opinión del demandante, los consejos relacionados con el uso de drogas y la toma de decisiones médicas deberían estar sujetos a las mismas restricciones estrictas que el contenido protegido por derechos de autor.
En este sentido, OpenAI dijo a los medios que este incidente fue "extremadamente desgarrador". La compañía también señaló que el caso involucraba una versión anterior de ChatGPT y que el nuevo modelo ahora es más capaz de identificar situaciones que requieren atención urgente e intervención profesional.
Los informes muestran que Bowen Wan ha dependido del apoyo de sus padres durante muchos años para hacer frente a las dificultades de la vida causadas por la epilepsia. A partir de 2023, utilizó gradualmente ChatGPT para obtener asesoramiento emocional, así como información sobre seguros y beneficios por discapacidad. En 2025, se comunicaba con ChatGPT en promedio más de 1.500 mensajes por semana y el número de contactos con sus padres se redujo significativamente.
Los registros de chat muestran que escribió en marzo de 2025: "A veces, no importa de qué hablemos, empiezo a verte como una amiga". Su padre dijo que desde que empezó a usar ChatGPT con frecuencia, la comunicación de su hija con su familia se ha reducido significativamente.
Después de revisar los registros del chat, los padres dijeron que apenas podían reconocer a la hija en el chat. En el pasado, compartía la mayoría de las cosas de su vida con su familia y también se mostraba escéptica cuando ChatGPT cometía errores. Sin embargo, hacia el final de su vida, parecía depender cada vez más de los chatbots para recibir consejos.
Su madre dijo que su hija no solía ser esa persona y que "se sentía hechizada".
Comentarios