Resumen:
Matt Smith, un usuario que utiliza el agente de IA, notó que en lugar de completar los pedidos de compras como de costumbre, la IA le pidió una cantidad impar de huevos. Matt Smith no incluyó huevos en su lista de compras; sin embargo, el asistente de IA añadió a su carrito de compras cuatro paquetes de huevos grandes de la conocida marca local “Vital Farms”. Hay 18 huevos en cada paquete y se entregaron un total de 72 huevos en su casa.

Después de revisar el pedido, Smith pidió a la IA que explicara por qué había elegido este número, pero la respuesta de la IA no fue convincente: "No puedo dar una respuesta satisfactoria. No encuentro ninguna nota que explique por qué elegí el número cuatro".
El agente de IA inicialmente dijo que leyó mal la información sobre los huevos al leer la imagen de una lista de compras. Sin embargo, Smith se apresuró a señalar que los huevos no se mencionaban en absoluto en su lista. La IA finalmente admitió que había agregado los huevos al pedido sin ningún motivo.
Este es un ejemplo de la vida real de alucinaciones por parte de la IA, un problema que puede tener consecuencias no deseadas al delegar tareas diarias a agentes de inteligencia artificial.
No se puede subestimar el riesgo de que estas herramientas obtengan acceso generalizado a información personal; por ejemplo, poco después del lanzamiento del agente Muse AI de Meta, un hombre informó que la IA dio la dirección de su casa a extraños en Facebook Marketplace sin su conocimiento y los dirigió a su casa.
Smith describió el incidente como su primera experiencia personal con las consecuencias reales de la ilusión del gran modelo de lenguaje, que, según dijo, podría haber tenido consecuencias mucho más graves.
A pesar de los importantes avances en esta tecnología, los agentes de IA siguen siendo propensos a cometer errores y no se les debe confiar el manejo de todos los aspectos de la vida sin supervisión
Comentarios