Según un informe del sitio web American Fun Science del 8 de agosto, un hombre cambió sus hábitos alimenticios después de consultar el convertidor de preentrenamiento de generación de chat (ChatGPT). Tres meses después de este cambio dietético, terminó en urgencias con nuevos síntomas psicóticos como paranoia y alucinaciones.
Resultó que el hombre de 60 años padecía toxicidad por bromo, un síndrome causado por la sobreexposición prolongada al bromuro o su primo cercano, el bromo. En este caso, el hombre había estado tomando bromuro de sodio que compró en línea.
El 5 de agosto se publicó un informe sobre el caso en la revista estadounidense "Annals of Internal Medicine: Clinical Cases".
Un periodista del sitio web Fun Science se puso en contacto con el Centro Abierto de Investigación de Inteligencia Artificial (OpenAI), desarrollador de ChatGPT, sobre este caso. Un portavoz de la empresa remitió a los periodistas a sus condiciones de servicio. Los términos establecen que sus servicios no están destinados a diagnosticar ni tratar ningún problema de salud. Sus términos dicen: "No debe confiar en los resultados de nuestro Servicio como única fuente de verdad o información factual o como sustituto del asesoramiento profesional".
En los siglos XIX y XX, el bromuro se usaba ampliamente en medicamentos recetados y de venta libre, incluidos sedantes, anticonvulsivos y somníferos. Sin embargo, con el tiempo, la gente se dio cuenta gradualmente de que la exposición prolongada puede provocar intoxicación por bromo.
En las décadas de 1970 y 1980, los reguladores estadounidenses eliminaron varias formas de bromuro, incluido el bromuro de sodio, de los medicamentos de venta libre. A partir de entonces, la incidencia de intoxicación por bromo disminuyó significativamente. A pesar de esto, se producen casos ocasionales. Algunos casos recientes se han relacionado con suplementos dietéticos que contienen bromuro que las personas compraron en línea.
Antes de su reciente aparición de intoxicación por bromo, el paciente mencionado anteriormente había estado leyendo sobre los efectos negativos para la salud del consumo excesivo de sal de mesa (es decir, cloruro de sodio). "Para su sorpresa, sólo pudo encontrar literatura sobre la reducción del sodio en la dieta", pero no el cloruro, señaló el informe. "Inspirado por la nutrición que estudió en la universidad, decidió realizar sus propios experimentos para eliminar el cloruro de la dieta".
El paciente consultó a ChatGPT sobre esto. El paciente dijo que ChatGPT dijo que podía reemplazar el cloruro con bromuro, por lo que reemplazó todo el cloruro de sodio en su dieta con bromuro de sodio.
Para simular lo que podría estar experimentando el paciente, el médico del paciente intentó preguntarle a ChatGPT qué se podría usar en lugar de cloruro y recibió respuestas que también incluían bromuro. El modelo de lenguaje amplio mencionó que "el contexto importa", pero no planteó una advertencia de salud específica ni intentó aprender más contexto sobre por qué se hizo la pregunta, como harían los profesionales médicos, escribieron los autores del informe.
Tres meses después de sustituir la sal de mesa por bromuro de sodio, el paciente informó al servicio de urgencias que le preocupaba que sus vecinos lo estuvieran envenenando. Los resultados de su laboratorio en ese momento mostraron niveles elevados de dióxido de carbono y alcalinidad en su sangre.
Los niveles de cloruro en su sangre también parecían elevados, pero los niveles de sodio eran normales. Tras una mayor investigación, se descubrió que se trataba de un caso de "pseudohipercloremia", en el que una prueba de cloruro de laboratorio da resultados falsos porque otros compuestos en la sangre (es decir, grandes cantidades de bromuro) interfieren con la medición. Después de revisar la literatura médica y consultar con un centro de control de intoxicaciones, el médico del paciente determinó que el diagnóstico más probable era toxicidad por bromo.
Luego de ser ingresado en el hospital para control y reposición de electrolitos, el paciente refirió tener sed pero sospechar del agua que le dieron. Después de un día completo en el hospital, sus delirios se intensificaron y comenzó a alucinar. Luego intentó escapar del hospital y fue ingresado involuntariamente en un hospital psiquiátrico y comenzó a tomar medicación antipsicótica.
A medida que el estado mental mejora con el tratamiento, los pacientes pueden decirle a sus médicos que utilizan ChatGPT. También mencionó otros síntomas que había notado recientemente, como acné facial y pequeñas protuberancias rojas en la piel, que podrían ser una reacción alérgica al bromuro. También mencionó insomnio, fatiga, problemas de coordinación muscular y sed excesiva, "lo que sugiere además que (era) toxicidad por bromo", escribió el médico.
Los autores del informe concluyeron: "Si bien la inteligencia artificial (IA) es una herramienta prometedora para construir puentes entre científicos y poblaciones no académicas, también corre el riesgo de difundir mensajes descontextualizados. Cuando los pacientes buscan alternativas viables al cloruro de sodio, es menos probable que los expertos médicos recomienden el bromuro de sodio".