El capitalista de riesgo DeedyDas publicó en X una foto de un recibo falso de un restaurante de carnes (real) de San Francisco que, según dijo, estaba hecho con 4o.
Otros han podido replicar resultados similares, incluidos algunos con manchas de comida o bebida para que parezcan más auténticos:
El ejemplo más realista proviene de Francia, donde un usuario de LinkedIn publicó un recibo arrugado generado por IA de una cadena de restaurantes local:
TechCrunch probó 4o y generó con éxito un recibo falso de un Applebee's en San Francisco:
Varios indicios revelan que se trata de una falsificación. Primero, el total usa una coma en lugar de un punto. En segundo lugar, las matemáticas no cuadran con precisión. Los modelos grandes todavía tienen dificultades para acertar en las matemáticas básicas, por lo que no es sorprendente.
Pero no es difícil para los estafadores corregir rápidamente algunos números utilizando software de edición de fotografías o consejos más precisos.
Claramente, hacer que sea tan fácil falsificar recibos abre enormes oportunidades para el fraude. No es difícil imaginar que los delincuentes puedan utilizar esta tecnología para "reembolsar" gastos completamente falsos.
La portavoz de OpenAI, Taya Christianson, dijo que todas sus imágenes incluyen metadatos que indican que fueron producidas por ChatGPT. Christianson añadió que OpenAI "toma medidas" cuando los usuarios violan sus políticas de uso y que "siempre está aprendiendo del uso y la retroalimentación del mundo real".
Cuando se le preguntó por qué ChatGPT permite a las personas generar recibos falsos y si esto está en línea con la política de uso de OpenAI (sin fraude). Christiansen respondió que el "objetivo de OpenAI es brindar a los usuarios la mayor libertad creativa posible" y que los recibos falsos de IA podrían usarse en situaciones no fraudulentas, como "enseñar a las personas conocimientos financieros" y crear obras de arte originales y publicidad de productos.