Después de ser cuestionado por la investigación británica "Guardian", Google ha eliminado la función AI Overviews de algunas páginas de resultados de búsqueda médica relacionadas con la función hepática. Una investigación de The Guardian señaló que Google AI Overview proporcionó información potencialmente engañosa al responder ciertas preguntas de salud, lo que generó preocupaciones sobre la seguridad de sus escenarios médicos.
Según un informe anterior de The Guardian, cuando un usuario pregunta "cuál es el rango normal para los análisis de sangre del hígado", la descripción general de la IA proporcionada por Google presentará directamente un conjunto de valores sin distinguir entre factores importantes como nacionalidad, género, raza y edad. A los expertos les preocupa que este rango de referencia "único para todos" pueda llevar a algunos usuarios a creer erróneamente que los resultados de sus pruebas son normales, retrasando así el tratamiento médico o ignorando riesgos potenciales.
En el último desarrollo, The Guardian dijo que Google eliminó las descripciones generales de IA de los resultados de consultas relacionadas, como "rango normal de pruebas de sangre del hígado" y "rango normal de pruebas de función hepática" (cuál es el rango normal para las pruebas de función hepática). Sin embargo, la investigación también encontró que ligeras variaciones en el mismo tipo de preguntas, como ingresar "rango de referencia lft" o "rango de referencia de prueba lft", aún pueden generar respuestas resumidas generadas por IA.
Los reporteros de TechCrunch lo probaron ellos mismos horas después de que se publicara el último informe de Guardian y descubrieron que el módulo AI Overviews ya no aparecía en la página de resultados de búsqueda ni para la pregunta original ni para sus variaciones. En múltiples pruebas, Google seguirá proporcionando una entrada para "hacer preguntas en modo AI", pero los resultados de búsqueda predeterminados son principalmente enlaces tradicionales. El primer resultado de muchas de las consultas es el informe de The Guardian sobre la eliminación de la descripción general de IA por parte de Google.
En cuanto al comportamiento de eliminación específico, Google dijo a The Guardian que la empresa no comentaría sobre "casos de eliminación individuales" en la búsqueda, pero que continuaría "realizando importantes mejoras". Un portavoz de Google también reveló que un equipo interno de médicos revisó las consultas relevantes mencionadas por The Guardian y cree que "en muchos casos, la información no es inexacta y está respaldada por sitios web de alta calidad".
Se ha contactado a Google para obtener más comentarios sobre este asunto. El informe recordó que el año pasado Google anunció una serie de mejoras destinadas a optimizar la experiencia de búsqueda en escenarios médicos, incluido el fortalecimiento de la presentación general de las búsquedas de salud y la introducción de modelos de inteligencia artificial relacionados con la salud más especializados.
Vanessa Hebditch, directora de comunicaciones y políticas del British Liver Trust, dijo a The Guardian que la eliminación por parte de Google de la descripción general relevante de la IA era una "buena noticia". Pero también enfatizó que la mayor preocupación es que el mundo exterior actualmente está "estando quisquilloso con un solo resultado de búsqueda, y Google puede detener rápidamente la hemorragia desactivando la visión general de la IA de consultas individuales, pero en realidad no ha tocado el tema general de la visión general de la IA para la salud".