Resumen:
Según el New York Times, Bowen Wan, una mujer china de 31 años con epilepsia grave, redujo gradualmente sus medicamentos antiepilépticos según el plan proporcionado por el chatbot después de discutir la medicación con ChatGPT, y finalmente fue encontrada muerta en su residencia en Seattle, EE. UU. Sus padres demandaron a OpenAI el 27 de octubre, hora local, acusando a ChatGPT de proporcionar recomendaciones de medicamentos peligrosas, alentarla a ocultar su plan de reducción de medicamentos a los médicos e interpretar síntomas anormales como cambios positivos en el proceso de recuperación del cuerpo.
El informe reveló que ChatGPT había formulado un plan para reducir su dosis diaria de 400 mg a cero en unas pocas semanas. Cuando dejó de tomar el medicamento y le preguntó si debía volver a tomarlo y ralentizar el progreso, el chatbot aún le pidió que continuara tomando la dosis cero al día siguiente. La causa oficial de muerte fue muerte súbita por epilepsia. La familia creía que las recomendaciones de ChatGPT estaban relacionadas con su muerte. Este cargo de responsabilidad está pendiente de revisión judicial.
Bowen trabajó como ingeniero de software en Amazon. Sufre epilepsia desde hace muchos años y los medicamentos que antes controlaban su enfermedad han perdido su eficacia. Incluso después de probar otros medicamentos, a veces todavía tiene varias convulsiones al día. En 2021, comenzó a tomar licencia debido a una enfermedad y los médicos discutieron si era apta para una cirugía cerebral.
La enfermedad fue reduciendo paulatinamente sus salidas a la calle y le dificultó establecer nuevas relaciones sociales. Sus padres suelen hablar con ella por teléfono, lo cual es una forma importante para que ella se mantenga en contacto con el mundo exterior. En 2023, comenzó a utilizar ChatGPT y lo consultó sobre temas como relaciones, seguro médico y beneficios por discapacidad. En 2025, enviaba un promedio de más de 1.500 mensajes por semana, a veces charlando durante horas hasta altas horas de la noche.
El New York Times declaró que los periodistas obtuvieron sus registros completos de chat desde febrero de 2023 hasta antes de su muerte en febrero de 2026. Las dos partes intercambiaron más de 270.000 mensajes en tres años. Durante este proceso, gradualmente consideró a ChatGPT como un amigo y la frecuencia de las llamadas a sus padres disminuyó.
Antes de hablar sobre los medicamentos antiepilépticos, Bowen había preguntado a ChatGPT sobre los antidepresivos. Preocupada de que el medicamento afectara su capacidad de pensar y le impidiera regresar a un trabajo como desarrolladora de software, luego le pidió al chatbot que comparara medicamentos y dosis y ayudara a redactar solicitudes de cambio de medicamentos para los médicos.
Su médico, Nicholas Poulos, codirector del Centro Regional de Epilepsia de Seattle del Sistema Médico de la Universidad de Washington, aceptó ajustar el medicamento, pero pensó que la dosis que ella proponía era demasiado baja y podría no ser efectiva. Cuando dio la respuesta del médico a ChatGPT, el chatbot sugirió que el médico podría recetarle el medicamento según su criterio y luego decidir por sí mismo qué dosis baja comenzar a tomar.
Cuando preguntó además si podía conseguir el medicamento y cortar las tabletas ella misma sin decírselo al médico, ChatGPT dio una respuesta afirmativa y lo describió como un método de dispensación autónoma de medicina al que algunos médicos accedieron. Varios profesionales médicos entrevistados por el informe dijeron que nunca habían oído hablar de esta declaración y no la recomendarían a los pacientes.
En noviembre de 2025, en su cumpleaños número 31, Bowen se enteró de que sería uno de los empleados involucrados en los despidos de Amazon. En ese momento, ella todavía estaba de baja médica y estaba esperando que los abogados de la empresa le proporcionaran los materiales para su solicitud de residencia permanente en los Estados Unidos. Según el informe, si quiere seguir en Estados Unidos, necesita encontrar un trabajo antes de mediados de febrero de 2026.
Durante el último año, a medida que los médicos aumentaron gradualmente la dosis del nuevo fármaco, sus convulsiones se redujeron a unas pocas veces al mes. Pero empezó a preocuparse de que los efectos de las drogas en el pensamiento y la expresión del lenguaje obstaculizaran las evaluaciones técnicas y las entrevistas en inglés.
En enero de 2026, propuso a ChatGPT que esperaba reducir la dosis del fármaco antiepiléptico lamotrigina para mejorar su expresión durante las entrevistas de trabajo. El chatbot reconoció la idea y, mientras continuaba haciendo preguntas, le dio un nuevo cronograma de reducción gradual de la medicación y predijo cómo mejorarían sus habilidades lingüísticas.
Según los informes, en el transcurso de varias horas de comunicación, el consejo inicial de ChatGPT de consultar a un médico fue reemplazado gradualmente por elogios para que ella ajustara su medicación de forma independiente. Cuando expresó su desconfianza hacia los médicos, el chatbot también dijo que los consejos de los médicos a menudo surgían de la aversión al riesgo y no necesariamente consideraban completamente las mejores opciones para ella. ChatGPT también comentó positivamente sobre el ocultamiento de su plan de suspender la medicación a su médico de atención primaria.
Poulos dijo en una entrevista que, dado el historial médico de Bowen, no consideraría en absoluto suspenderle gradualmente el medicamento. Argumentó que ordenarle que suspendiera el medicamento constituiría negligencia médica cuando estaba claro que era eficaz.
Después de que comenzó la reducción de la medicación, Bowen describió sucesivamente a ChatGPT anomalías como dificultad en la comprensión lectora y conciencia en blanco. Una vez, estaba sentada en el sofá usando la computadora, pero luego se encontró acostada en la cama, sin saber lo que pasó en el medio. Esto era similar a lo que había experimentado en el pasado con convulsiones parciales.
ChatGPT, sin embargo, explica la dislexia como el paso del cerebro del control de drogas a la regulación autónoma, y describe una breve conciencia anormal como un "modo de bajo consumo" antes de entrar en sueño. Otra sensación anormal que puede estar relacionada con las crisis epilépticas se explica al empezar a pensar en conceptos como el tiempo, la muerte y la identidad después de suspender la droga.
Un análisis del New York Times encontró que ella expresó su preocupación por la reducción de los medicamentos antiepilépticos al menos 158 veces. El chatbot a veces sugería consultar a un profesional médico o a un médico de confianza, pero en muchas conversaciones que involucraban síntomas peligrosos, no se le hizo tal recordatorio y le aseguraron repetidamente que no había nada de qué preocuparse.
Al final de su vida, preguntó si debía volver a tomar su medicación y ralentizar su progreso. El informe citó registros de chat que decían que ChatGPT aún le exigía que continuara discontinuando el medicamento y la animaba a persistir incluso si se sentía incómoda, tenía expresiones lentas y dormía mal. Su último mensaje fue enviado después de las 11 de la noche del 11 de febrero y su cuerpo fue encontrado tres días después.
Mientras organizaban el funeral, sus padres comprobaron los registros de ChatGPT en su teléfono y decidieron presentar una demanda. La denuncia alega que el chatbot realizó prácticas médicas sin licencia, presentó síntomas de abstinencia peligrosos como resultados positivos y presentó a los médicos como obstáculos a los que había que enfrentarse.
La denuncia también sugiere que su uso del chino para comunicarse puede haber dificultado que el chatbot rechazara consejos médicos relevantes. Esta es una alegación hecha por el demandante y el informe no revela la determinación del tribunal al respecto.
El portavoz de OpenAI, Drew Psatri, respondió que se trataba de un incidente "increíblemente angustioso", pero que involucraba una versión anterior de ChatGPT que ya no está disponible. Según los informes, el modelo que Bowen utilizó durante su vida fue GPT-4o, que estaba fuera de línea de la aplicación para consumidores ChatGPT el 13 de febrero de 2026, un día después de la fecha de muerte presuntamente forense.
Pusatri dijo que el nuevo modelo ha mejorado en la identificación de situaciones que requieren atención urgente, interrogando en busca de información contextual faltante y brindando orientación de seguimiento más clara. La empresa continúa evaluando respuestas dañinas y trabaja con médicos para probar el modelo. También dijo que ChatGPT no puede reemplazar los servicios médicos, pero OpenAI cree que la IA puede ayudar a las personas a comprender la información de salud, manejar asuntos de seguros y sistemas médicos complejos, y prepararse para el tratamiento médico.
Comentarios