Recientemente, cuando algunos internautas usaron Beanbao para buscar a Li Yuanhong, una figura de la República de China, apareció una foto retocada con Photoshop del actor Fan Wei. Este incidente oolong puede parecer divertido, pero en realidad expuso las lagunas de autenticidad en la IA en el reconocimiento de imágenes y la recuperación de información. Muchos internautas se quejaron de que la IA no era lo suficientemente rigurosa y que la recuperación de personajes históricos graves cometía errores de entretenimiento, lo que afectaba la precisión de la adquisición de información.
Según la explicación oficial, el oolong se originó a partir de un malentendido difundido en Internet: Li Yuanhong y Fan Wei son muy similares en apariencia. La imagen falsa de PS durante el casting de "La fundación del partido" en 2010 tuvo una amplia difusión y la tasa de difusión superó con creces las fotografías históricas reales. Algunas galerías de fotos y enciclopedias se incluyeron por error, lo que provocó que esta imagen compuesta tan popular tuviera prioridad durante las búsquedas de IA.
La aparición de tales errores en la IA es esencialmente una manifestación típica de ilusión de información.
Los expertos señalan que los modelos grandes dependen del aprendizaje de datos de la red y carecen de capacidades de autoverificación. Cuando aparece información incorrecta repetidamente en la red, la IA fácilmente la genera como resultados correctos, lo que resulta en una situación de "tonterías graves".
La tecnología actual no puede eliminar por completo las alucinaciones. La tasa de error sólo puede reducirse optimizando las fuentes de datos y mejorando la recuperación y verificación.
Este incidente también ha provocado debates entre los internautas sobre la confiabilidad de la IA. Algunas personas se han burlado de que se produzcan errores similares al buscar otros personajes históricos. Algunos usuarios también compartieron sus experiencias de haber sido engañados por la información de error de la IA y pidieron mejorar la precisión del contenido de la IA.
Actualmente, las plataformas relevantes están optimizando la lógica de búsqueda, dando prioridad a la publicación de imágenes de materiales históricos autorizados para reducir la interferencia de la desinformación en Internet.
