Resumen:
Utah, EE. UU., está ampliando aún más el alcance de la aplicación de la inteligencia artificial médica y permitiendo que los sistemas de IA evalúen directamente a los pacientes, decidan planes de tratamiento y emitan recetas en condiciones específicas. A medida que se lanzan nuevos programas piloto, Utah se está convirtiendo en uno de los campos de pruebas más agresivos para la regulación de la IA médica en los Estados Unidos.
Este nuevo proyecto lo lanza la startup de inteligencia artificial médica Nolla Health y está dirigido principalmente a pacientes con acné leve a moderado. Los usuarios primero deben tomar una fotografía facial a través de la aplicación y completar su historial médico e información personal. Luego, la IA analiza la condición de la piel, evalúa la gravedad del acné y luego selecciona un plan de tratamiento adecuado de una lista de medicamentos aprobados en función de la información médica proporcionada por el paciente.
A diferencia de la telemedicina tradicional, el núcleo de este proceso no es permitir que la IA complete primero el examen y luego el médico realice el diagnóstico final. En cambio, permite a AI tomar la decisión final sobre si recetar medicamentos y enviar la receta directamente a la farmacia designada por el paciente.
Sin embargo, el proyecto no eliminó por completo la participación de los médicos desde el principio. En la fase inicial del piloto, cada receta generada por IA deberá ser revisada y firmada por un médico autorizado de Utah. A medida que avance el proyecto, la participación de los médicos disminuirá gradualmente, lo que eventualmente permitirá a AI emitir recetas calificadas sin una revisión previa por parte de los médicos.
Según el acuerdo piloto anunciado por los funcionarios de Utah, Nolla Health actualmente solo puede tratar el acné leve a moderado para pacientes adultos, y el rango de prescripción está estrictamente limitado a una pequeña cantidad de medicamentos tópicos, incluidas cremas y geles designados. El sistema no se puede utilizar para tratar el acné grave ni puede prescribir opciones de tratamiento más riesgosas, como medicamentos orales o isotretinoína.
Los pacientes también deben someterse a una verificación de identidad y edad, y las recetas solo se pueden enviar a direcciones de Utah. Para los pacientes con acné severo, que están embarazadas o planean quedar embarazadas, que están amamantando, que tienen sistemas inmunológicos comprometidos y que han tenido reacciones adversas a medicamentos relacionados, el sistema de IA debe detener el proceso de prescripción automática y transferirlo al personal médico humano.
La razón por la que Utah puede llevar a cabo un experimento de este tipo está relacionada con el sistema de "zona de pruebas regulatoria de IA" establecido por el estado en los últimos años. El sistema permite a las empresas probar productos de inteligencia artificial bajo supervisión gubernamental y al mismo tiempo exime temporalmente algunos requisitos reglamentarios existentes dentro de límites claramente definidos.
Esto significa que la empresa no obtiene una "licencia médica de IA" ilimitada, pero después de firmar un acuerdo con el gobierno estatal y las agencias reguladoras pertinentes, puede realizar pruebas en productos específicos, enfermedades específicas y grupos específicos durante un tiempo limitado. Las empresas seguirán teniendo que cumplir con otros requisitos legales que no están exentos del acuerdo.
De hecho, a principios de este año, Utah se convirtió en el primer estado de Estados Unidos en permitir que la IA maneje de forma autónoma los reabastecimientos de recetas. En ese momento, Doctronic lanzó un servicio médico de inteligencia artificial que podría volver a recetar algunos medicamentos para enfermedades crónicas a pacientes que habían recibido tratamientos a largo plazo sin la participación directa de los médicos.
Este programa cubre alrededor de 190 medicamentos no controlados de uso común, pero no incluye analgésicos, medicamentos inyectables ni algunos medicamentos utilizados para tratar el TDAH. Los pacientes primero deben pasar la verificación de identidad y la verificación de información médica, y luego AI decidirá si permite el reabastecimiento en función de las recetas anteriores y la condición actual del paciente.
La nueva política actual de Utah significa que los ensayos médicos de IA están pasando de la "recarga automática" a la "primera receta". Hay una clara diferencia entre los dos: resurtir significa que un médico le ha recetado previamente al paciente un plan de tratamiento, mientras que prescribir por primera vez significa que la IA debe tomar nuevas decisiones clínicas basadas en la condición actual del paciente.
Por eso el proyecto Nolla Health ha recibido especial atención.
Los funcionarios de Utah exigen que Nolla Health tenga dos médicos certificados que revisen cada receta al principio del programa. A medida que avanza el proyecto, el método de auditoría puede cambiar gradualmente a una auditoría posterior y una inspección aleatoria, pero cada vez que ingresa a una nueva etapa, debe obtener la aprobación por escrito del gobierno estatal.
Las empresas también deben adquirir un seguro de responsabilidad profesional e informar los eventos adversos a los reguladores después de que ocurran. Al mismo tiempo, las farmacias deben estar claramente informadas de que las recetas son generadas por sistemas de inteligencia artificial y deben poder ponerse en contacto con los médicos pertinentes para solucionar los problemas.
Los reguladores de Utah también exigen que las empresas no vendan ni transfieran datos de pacientes para otros usos, y deben presentar periódicamente datos sobre las operaciones del proyecto, incluidos indicadores como el grado de coherencia entre la IA y el criterio de los médicos.
El gobierno de Utah cree que este modelo puede explorar si la IA puede reducir los costos médicos en algunos escenarios médicos comunes y de bajo riesgo y aliviar el problema de los recursos médicos insuficientes. Para algunos pacientes con afecciones relativamente simples, poder completar evaluaciones y recetar medicamentos a través del teléfono móvil podría reducir el tiempo y los gastos de viaje a la clínica.
Sin embargo, ha habido una evidente controversia sobre este modelo en la comunidad médica.
Los críticos creen que incluso para enfermedades aparentemente simples, los médicos deben considerar la edad del paciente, su historial médico, otros medicamentos, alergias y algunas señales clínicas que no se descubren fácilmente a través de preguntas y respuestas estandarizadas al recetar medicamentos. Si confía completamente en la IA para juzgar, una vez que el sistema omite información importante, puede provocar un tratamiento incorrecto.
A principios de este año, una prueba de seguridad del sistema de reabastecimiento de medicamentos con IA de Utah también causó controversia. Los investigadores de seguridad han utilizado ataques de palabras rápidas relativamente simples para hacer que los sistemas de inteligencia artificial relacionados generen consejos médicos incorrectos, incluido el aumento incorrecto de la dosis de ciertos medicamentos y las recomendaciones de medicamentos peligrosos. Estas pruebas resaltan aún más las diferencias entre la IA médica y los chatbots comunes.
Uno de los mayores riesgos de la IA médica es que las respuestas incorrectas de los chatbots comunes pueden simplemente generar información engañosa. Sin embargo, una vez que la IA médica tenga la autoridad para recetar medicamentos, los errores pueden traducirse directamente en consecuencias médicas en el mundo real.
Por lo tanto, el piloto actual en Utah está explorando una cuestión muy importante: en qué condiciones, la inteligencia artificial puede transformarse de una "herramienta auxiliar para los médicos" a un "ejecutor de decisiones médicas".
Los partidarios creen que la IA no necesariamente tiene que reemplazar a los médicos, sino que puede asumir una gran cantidad de tareas estandarizadas, repetitivas y de riesgo relativamente bajo. Por ejemplo, la simple evaluación de enfermedades de la piel, el reabastecimiento de medicamentos para enfermedades crónicas a largo plazo y otras situaciones que cumplan con pautas clínicas claras pueden convertirse en las primeras áreas donde la IA ingrese al sistema médico.
Los oponentes argumentan que incluso si algunos casos parecen simples, no se puede suponer que todos los pacientes se ajusten al modelo estándar. Especialmente cuando la IA tiene el poder de prescribir, el costo de los errores del sistema será significativamente mayor que el de los errores ordinarios de preguntas y respuestas de información.
Actualmente, Utah no permite que AI "se convierta en médico" sin restricciones. Tanto el tratamiento del acné de Nolla Health como los proyectos anteriores de reabastecimiento de medicamentos con IA están estrictamente limitados a medicamentos específicos, pacientes específicos y procesos específicos, y las empresas deben aceptar una supervisión continua.
Pero desde una perspectiva de desarrollo industrial, la importancia de Utah sigue siendo muy especial. En el pasado, la IA médica se utilizaba principalmente para el reconocimiento de imágenes, el diagnóstico auxiliar, la recopilación de registros médicos y el apoyo a las decisiones de los médicos, pero ahora la IA está empezando gradualmente a ganar autoridad real para la toma de decisiones clínicas.
Si estos pilotos pueden demostrar que la IA puede completar de forma segura algunas tareas médicas de bajo riesgo bajo restricciones estrictas y revisión continua, entonces otros estados de EE. UU. podrían recurrir a modelos similares en el futuro para relajar aún más el alcance de las aplicaciones de la IA en el campo médico.
Por el contrario, si se producen errores médicos graves durante el proceso piloto, el sistema es atacado o los juicios sobre la IA se desvían significativamente de los de los médicos profesionales, entonces el experimento de Utah también puede convertirse en un caso importante para que las agencias reguladoras refuercen la autoridad de la IA médica.
No importa cuál sea el resultado final, el experimento en curso en Utah significa un cambio claro: la etapa en la que la inteligencia artificial ingresa a la industria médica está pasando gradualmente de "ayudar a los médicos a trabajar" a "tomar decisiones médicas directamente dentro de un alcance limitado". Que la IA pueda asumir esta responsabilidad ya no será sólo una cuestión técnica en el laboratorio, sino que se probará cada vez más con pacientes reales y recetas reales.
Comentarios