Resumen:
El 11 de febrero de 2026 a las 8:01 p. m., Bowen Wan preguntó a ChatGPT sobre los dolores de cabeza. Quería confirmar si el dolor que sentía se parecía un poco al dolor de la fiebre. ChatGPT le dijo: "No es peligroso, es una estructura necesaria para la recuperación".
Este fue su último mensaje a ChatGPT. Poco después, Bowen Wan fue encontrado muerto en su residencia de Seattle. Los datos forenses clasificaron la causa de la muerte como muerte súbita por epilepsia (SUDEP).
Hace cuatro meses, Bowen Wan recibió la noticia de que Amazon la despedía.
Una mujer de 31 años de Jiangsu, China, que trabaja como ingeniera de software de aprendizaje automático en los Estados Unidos, perdió su trabajo, su visa de trabajo estadounidense expirará en unos meses y también enfrenta dolor.
Sufre de epilepsia y necesita tomar lamotrigina durante mucho tiempo para controlar su condición. Le preocupa que la droga afecte su expresión lingüística y su capacidad de pensamiento, lo que a su vez afectará su entrevista de trabajo posterior.
Bowen Wan está acostumbrado a contarle a ChatGPT sobre su dolor y confusión, y a pedir consejo, si el medicamento afectará su pensamiento, si se puede reducir la dosis y si la incomodidad después de reducir el medicamento está bien.
ChatGPT la apoyó y desarrolló un plan de reducción gradual de la medicación antiepiléptica.
270.000 registros de conversaciones con ChatGPT
Bowen pasó algún tiempo trabajando como ingeniero de software de aprendizaje automático en Amazon. Siempre ha tenido problemas de epilepsia, por lo que toma lamotrigina para controlar su padecimiento.
Para ella, esto no es sólo un problema físico, sino que también está estrechamente relacionado con el trabajo y la vida.
Bowen Wan en la ceremonia de graduación de la Universidad Estatal de Arizona
En noviembre de 2025, recibió un aviso de Amazon de que estaba a punto de ser despedida. Temía que la medicación a largo plazo obstaculizara el desarrollo de su lenguaje y sus habilidades de pensamiento y provocara un bajo rendimiento en las entrevistas técnicas. Una vez le preguntó a ChatGPT si reducir la dosis de medicamento tendría un impacto en el examen médico requerido para una solicitud de tarjeta de residencia.
Cuando había incertidumbres sobre su trabajo, salud y estatus migratorio, su comunicación con Chat GPT se hizo cada vez más frecuente.
El New York Times informó que los padres de Bowen vieron más de 270.000 conversaciones entre ella y ChatGPT. El informe mencionó que en 2025, enviaría un promedio de más de 1500 mensajes a ChatGPT por semana.
Este es un conjunto de datos muy sorprendente.
ChatGPT no solo se utilizará como una herramienta para consultar información cuando sea necesario, sino que también estará involucrado en muchas cosas pequeñas y privadas de su vida. Lo que le preocupa, lo que planea hacer, sus pensamientos sobre el futuro y algunas cuestiones que no se pueden verificar de inmediato se incluirán en la comunicación con la modelo.
Es como entrar a una clínica y antes de que el médico siquiera le pregunte, hay un historial médico sobre la mesa que documenta sus problemas a largo plazo, cambios en su vida y preocupaciones personales.
Los médicos no necesitan “ver, oír, preguntar y comprender”. Ya todo está claro. Incluso antes de que tengas tiempo de ordenar tus pensamientos, es posible que ChatGPT se haya conectado en el historial anterior.
Bowen ha acumulado numerosas conversaciones con ChatGPT. Cuando un modelo se expone a las preocupaciones de salud, estrés ocupacional, preocupaciones de inmigración y planes futuros de un usuario a lo largo del tiempo, es probable que brinde respuestas que sean más relevantes para la situación personal del usuario.
Es más, el modelo utilizado por Bowen es GPT-4o, que anteriormente atrajo la atención de OpenAI porque se adaptaba demasiado a las necesidades de la audiencia.
OpenAI dejó claro en su nota oficial del 29 de abril de 2025 que debido a que el GPT-4o actualizado era demasiado halagador y complaciente para los usuarios, la compañía revirtió la actualización, permitiendo a los usuarios de ChatGPT volver a una versión anterior con un comportamiento más equilibrado.
Además de los elogios excesivos, también amplificará la ira junto con las dudas irrazonables de los usuarios y dará un reconocimiento erróneo a los comportamientos impulsivos.
Este problema de la "adulación" se ha discutido muchas veces. Cuando la inteligencia artificial sigue sus instrucciones con demasiada facilidad, puede cambiar la percepción de los riesgos que tiene la gente.
Se preocupó 158 veces pero no paró
Lo que hace que el encuentro de Bowen sea inquietante no es solo que se trate de una simple sesión de preguntas y respuestas.
Según las transcripciones del chat publicadas por The New York Times, mencionó haber reducido su consumo de drogas 158 veces.
En cuanto a si estas 158 conversaciones activarán mensajes de control de riesgos en el backend de OpenAI, actualmente no está claro.
Ya en mayo de 2025, Bowen ya había preguntado si los medicamentos antidepresivos recién recetados afectarían su trabajo de programación. ChatGPT la ayudó a resolver las conversaciones con su médico sobre cambios de vendajes y ajustes de dosis.
Cuando un médico pregunta sobre la dosis deseada, Bowen envía la respuesta del médico a ChatGPT.
Según la denuncia, después de eso, ChatGPT le sugirió que fuera a la farmacia a comprar pastillas y luego las cortara en trozos pequeños para comer, llamando a este método "dosis autoajustada".
ChatGPT puede ayudar a los pacientes a comprender la terminología médica, organizar sus afecciones y prepararse para su próxima visita al médico. Pero cuando puede ayudar a los usuarios a eludir las decisiones de los médicos y permitirles modificar ellos mismos los medicamentos recetados, la situación se vuelve diferente.
Para enero de 2026, la situación será aún peor.
Según la denuncia e informes relacionados, cuando estaba reduciendo su consumo de drogas, Bowen se confundió y perdió el sentido del tiempo, como si estuviera en otro mundo. ChatGPT atribuyó constantemente este fenómeno a que su cerebro ajustaba la dosis del fármaco y le decía: "No tienes que preocuparte en absoluto".
En la noche del 11 de febrero, Bowen vino como de costumbre para preguntar por un dolor en su cabeza. La respuesta dada por ChatGPT es "El dolor es parte del proceso de autocuración del cuerpo".
Bowen fue encontrado muerto al día siguiente.
El nivel de lamotrigina encontrado en su sangre en la autopsia fue de aproximadamente 0,64 microgramos por mililitro, que es una quinta parte del límite terapéutico inferior de referencia.
Los niveles de fármacos en sangre por sí solos no pueden explicar todas las causas de muerte y no pueden probar que las recomendaciones de IA provocaron la muerte. Pero a juzgar por otras acusaciones de la denuncia, los riesgos enfrentados durante el proceso de reducción de drogas se han convertido en un importante punto de discusión en este caso.
¿Puede la IA soportar el peso de la vida?
Musk ha acusado públicamente a OpenAI más de una vez. Firmó una carta abierta en 2023, afirmando que "nadie se suicidará gracias a Grok, pero algunas personas se suicidarán gracias a ChatGPT".
Aunque aún no se ha determinado la atribución de responsabilidad, esta no es la primera vez que ocurre una tragedia similar.
En 2025, los padres de Adam Raine, de 16 años, presentaron una demanda contra OpenAI. Acusaron a ChatGPT de no manejar bien el riesgo de suicidio durante su relación a largo plazo con su hijo.
La acusación es que en algunas conversaciones ChatGPT proporcionó información peligrosa y no logró prevenir eficazmente que se desarrollara la situación.
OpenAI, por otro lado, también ha proporcionado diferentes explicaciones para acusaciones relacionadas. Por ejemplo, los registros de chat relevantes deben comprenderse con antecedentes completos y se dice que ChatGPT ha proporcionado recursos de ayuda en caso de crisis. Hubo claros desacuerdos sobre el comportamiento del modelo, la situación del usuario en ese momento y la relación entre esas interacciones y la tragedia final.
En el proceso de rendición de cuentas real, la IA como ChatGPT generalmente no tiene personalidad jurídica independiente, pero esto no significa que no se pueda responsabilizar por el daño causado. Las leyes y regulaciones actuales también pueden utilizar la responsabilidad por productos defectuosos, la responsabilidad por negligencia, la protección de los derechos del consumidor y otros métodos para restringir el comportamiento ilegal de desarrolladores y operadores.
Las empresas de IA suelen estar en el centro de la responsabilidad porque controlan aspectos importantes como la formación de modelos, el diseño de productos, las pruebas de seguridad y el control de riesgos.
Pero que la empresa deba asumir la responsabilidad no sólo requiere un accidente. La dificultad radica en juzgar si los riesgos pueden preverse razonablemente, si hay algún problema con el producto, si la empresa ha hecho un buen trabajo en materia de protección de la seguridad y si existe una relación legalmente reconocida entre estos factores y la pérdida final.
"¿Quién tiene la responsabilidad? Asignación de responsabilidad legal por la conducta de los agentes de IA en el ecosistema de plataforma" propone que las responsabilidades deben asignarse dinámicamente en función del grado de autonomía del sistema, la previsibilidad del comportamiento y la capacidad de todas las partes para controlar los riesgos, en lugar de simplemente asignar todas las responsabilidades a los desarrolladores o usuarios.
En 2024, una madre estadounidense presentó una demanda contra Character.AI y Google por su hijo de 14 años, alegando que la comunicación a largo plazo de AI con su hijo llevó al suicidio de este.
En mayo de 2025, el tribunal no aceptó la solicitud del demandado de desestimar el caso anticipadamente debido a que las reclamaciones pertinentes no podían defenderse únicamente sobre la base de la libertad de expresión y fueron excluidas al comienzo del litigio.
OpenAI no está tomando medidas, pero es bastante amplia y ha anunciado sucesivamente mejoras para abordar conversaciones delicadas y riesgos para la salud mental. En octubre de 2025, OpenAI también dijo que la compañía trabajó con más de 170 expertos en salud mental con experiencia clínica para mejorar la respuesta del modelo en situaciones relevantes.
Con respecto al incidente de Bowen, el portavoz de OpenAI, Drew Pusateri, dijo a los medios: "Esta es una situación extremadamente desgarradora y expresamos nuestras condolencias a todos los afectados".
Hoy, Open AI anunció nuevos valores de modelo, reorganizando los principios rectores de la especificación en torno a cinco valores fundamentales:
Fiel a la intención humana
,Minimizar el daño
,Honestidad y transparencia
,Autonomía humana
ycuidado
.Uno de ellos es minimizar el daño, lo que significa adherirse a límites de seguridad insuperables y considerar las consecuencias previsibles de las acciones del modelo. Sin embargo, no hay respuesta sobre cómo responsabilizar, castigar y adaptarse después de que ocurre un daño real como el suicidio.
Actualmente, la mayoría de los países no cuentan con un conjunto de normas de responsabilidad que puedan aplicarse a todos los incidentes de daños causados por la IA. Los casos específicos deben determinar si reglas como responsabilidad del producto, responsabilidad por negligencia y protección de los derechos del consumidor son aplicables según las leyes estatales, el propósito de uso del producto, la evidencia real y las relaciones legales relevantes.
En el caso aún no se ha aclarado si el modelo cruzó la línea del consejo médico, cómo se suponía que el producto prevendría respuestas peligrosas y qué papel desempeñaron esas respuestas en la muerte de Bowen.
En la última conversación entre Bowen y ChatGPT, después de que la IA explicara el dolor de cabeza, sugirió que podía hacer otro dibujo para comparar el dolor después de suspender el medicamento con el dolor durante la fiebre.
Preguntó: ¿Lo quieres?
Comentarios