Una pequeña empresa británica se encuentra en problemas financieros y legales después de que su asistente de chat de inteligencia artificial prometiera a un cliente un descuento del 80% en un pedido grande. El jefe de la compañía dijo que el cliente pasó aproximadamente una hora charlando con el asistente de IA, durante la cual probó los cálculos matemáticos del asistente y gradualmente llevó la conversación al tema de los descuentos en pedidos hipotéticos.
El cliente expresó su aprecio por las capacidades del robot y luego el asistente de IA hizo algo que nadie esperaba. Originalmente sólo tenía que responder a las preguntas de los clientes fuera del horario laboral, pero "generó por iniciativa propia un código de descuento inexistente", ofreciendo primero un descuento del 25% y luego aumentando el descuento al 80%.
Después de recibir este "pastel que cae del mundo", el usuario quedó extasiado e inmediatamente realizó un pedido de más de 8.000 libras (aproximadamente 72.000 RMB). Los jefes dicen que la empresa sufrirá pérdidas por miles de libras si se cumple la orden. La empresa intentó cancelar el pedido, pero el cliente dijo que presentaría una demanda en el tribunal de reclamaciones menores si la empresa no cumplía las promesas del robot.
El jefe dijo que la IA del chat ha estado funcionando con éxito durante más de 6 meses sin sorpresas y no tiene autoridad para tomar decisiones financieras. Todos los descuentos y ofertas especiales deben aprobarse manualmente y no pueden generarse automáticamente. Al final, el pedido fue reembolsado íntegramente al cliente y la empresa se negó a reconocer que el código de descuento falso era válido.