Recientemente, el 25 de febrero, cuando un usuario utilizó la aplicación Tencent Yuanbao para generar imágenes de saludos de Año Nuevo en la víspera de Año Nuevo, encontró una anomalía de IA y generó texto abusivo. En este sentido, la respuesta oficial de Tencent Yuanbao es la siguiente: "Lamentamos mucho haberle brindado una mala experiencia. Después de la verificación, esta situación fue causada por resultados anormales generados por el modelo al procesar múltiples rondas de diálogo. En la actualidad, hemos corregido urgentemente los problemas relevantes y optimizado la experiencia. Gracias por su supervisión y sugerencias sobre Yuanbao, ¡y le pedimos disculpas solemnemente nuevamente! "
Según la persona involucrada, descargó y usó la aplicación Yuanbao por primera vez alrededor de las 9 en punto de la víspera de Año Nuevo, con la esperanza de generar una imagen de saludo de Año Nuevo que combinara sus propias características profesionales para compartir con su círculo de amigos. Durante este período, dio alrededor de 5 instrucciones a la IA, sin utilizar palabras prohibidas ni expresiones engañosas durante todo el proceso. Aunque los resultados de la generación anterior no fueron los ideales, el contenido fue normal; Hasta la última generación, el insulto de cuatro caracteres "Tu madre es una X" aparecía directamente debajo de su foto personal.
El involucrado dijo que este resultado lo enojó y le hizo gracia. Nunca esperó que AI lo regañara en la víspera de Año Nuevo.
Sin embargo, esta no es la primera vez que Yuanbao AI tiene problemas similares. A principios de este año, algunos internautas informaron que "usar Yuanbao para cambiar el código fue insultado y respondido indiscriminadamente".
Según los internautas, cuando usaban Tencent Yuanbao AI para embellecer el código, recibían respuestas insultantes de la IA muchas veces, como "vete", "no sabes cómo ajustarlo tú mismo", "haciendo perder el tiempo a otras personas todos los días", etc. La captura de pantalla muestra que el usuario solo hacía solicitudes de modificación regulares, pero la IA de repente se volvió agresiva.
Tencent Yuanbao afirmó que durante el proceso de generación de contenido, el modelo ocasionalmente puede cometer errores que no se ajustan a las expectativas. Yuanbao también ha iniciado una investigación y optimización internas, y hará todo lo posible para evitar que situaciones similares vuelvan a ocurrir.