Resumen:
En los últimos dos días, vi una noticia particularmente interesante. Hay una empresa en Australia llamada Apate.ai, que lleva el nombre de la diosa del engaño en la mitología griega. Lo que hizo esta empresa es particularmente escandaloso. Construyeron 350.000 IA. Y la tarea principal de estas 350.000 IA cada día es mentirle a la gente.
Es solo que el objetivo al que engañan es un poco especial.
Se especializan en estafadores.
Sí, es el tipo de mentiroso que crees que es.
Cada IA pretenderá ser una persona normal, vieja o joven, hombre o mujer. Incluso tienen diferentes acentos, pueden hablar varios idiomas e incluso tienen personalidad propia.
Llamadas fraudulentas, sitios web de phishing, estafas de inversión, etc. Siempre que encuentren un estafador, encontrarán una manera de enviar una IA allí, hacerse pasar por una víctima y charlar con el estafador.
Lo más importante es que estas IA tienen una característica común muy divertida, es decir, son muy fáciles de engañar.
El estafador pidió transferir el dinero y dijo que no habría problema.
El estafador me pidió que abriera el sitio web y me dijo que estaba bien.
El estafador me pidió que ingresara el número de mi tarjeta bancaria, pero dijo que sí, no hay problema.
Entonces, cuando llegue el paso de ejecución, de repente empezarás a actuar como un estúpido.
Vaya, ¿dónde puse mi tarjeta bancaria?
Vaya, ¿qué contraseña es esta?
Oh, soy mayor y mi vista no funciona bien. Hermanito, ¿puedes decirlo de nuevo?
Simplemente hable con el estafador de manera tan abrupta que algunas llamadas telefónicas pueden durar incluso más de dos horas...
El mentiroso casi se desploma.
Pero la anciana al otro lado del teléfono fue muy educada.
"Lo siento, joven, por favor enséñame otra vez."
Según los propios Apate, su IA ha conversado con estafadores 2,5 millones de veces y todavía conversa con decenas de miles de estafadores a la misma hora todos los días.
En total, el estafador tardó unos 17 años.
Bueno, 17 años...
El operador de telecomunicaciones australiano TPG ha transferido directamente casi 590.000 llamadas sospechosas a la IA de Apate para responderlas. Como resultado, el Commonwealth Bank of Australia ha reducido directamente en un 76% las pérdidas por fraude declaradas públicamente.
Lo más divertido es que de vez en cuando, los estafadores son arrastrados por estas IA hasta el punto de colapsar y maldecir al teléfono.
Apate no sólo no se enojó, sino que también incluyó estas malas palabras en los materiales de su gira de financiación. Su cofundador dijo que Apate es probablemente la única empresa en el mundo que celebra cuando los usuarios critican sus productos.
El origen de todo esto fue un picnic familiar hace unos años.
El fundador de Apate es Dali Kaafar. Ese día llevó a su familia a hacer un picnic y luego recibió una llamada telefónica extraña. Esta llamada telefónica fue demasiado grosera y sonó como la de un estafador.
Pero no se rindió, porque para hacer felices a los niños, comenzó a abstraerse, fingiendo estar poseído por un hada tonta, y fue muy cooperativo, simplemente charlando con el mentiroso frase por frase.
Esta charla duró 44 minutos y luego toda la familia se echó a reír.
Después de reír, Kaafar de repente se dio cuenta de algo.
Durante estos 44 minutos, el estafador siguió charlando con él en la línea y no tuvo tiempo de llamar a otros. Originalmente, un anciano que vive solo podría recibir esta llamada y podría verse defraudado hasta el último dinero de su pensión que podría sustentar su supervivencia.
Por supuesto, el precio es que también entró durante 44 minutos.
Entonces, en ese momento, tuvo una nueva idea y se preguntó si este asunto podría dejarse en manos de AI.
Debido a que Kaafar originalmente estaba haciendo una investigación sobre seguridad de redes en la Universidad Macquarie en Sydney, él y sus colegas comenzaron a especializarse en el estudio de llamadas fraudulentas y utilizaron inteligencia artificial para desmantelar las palabras de los estafadores poco a poco. En 2024, la idea se convirtió en Apate.
44 minutos de picnic se convirtieron en una tutela que duró un total de 17 años.
Si hay algo en este mundo que odio hasta la médula, debe ser el fraude.
Creo que mucha gente piensa igual que yo.
Pero ahora, la IA parece estar cambiando algo que era particularmente injusto en el pasado, que es el costo entre hacer el mal y prevenirlo.
Hace poco estaba viendo un documental sobre el fraude en las telecomunicaciones en el norte de Myanmar. Realmente sentí que todos estaban trabajando duro para evitar que engañaran a la gente común.
Pero una cosa muy desagradable acerca del fraude es que su estructura de costos es naturalmente beneficiosa para los estafadores.
Por ejemplo, un mentiroso puede llamar a cientos de personas al día. No importa incluso si los primeros cientos de personas cuelgan, porque esto es una apuesta, pero mientras una persona sea engañada al final, puede ganar mucho dinero.
Pero para la gente común, es posible que no te hayan engañado mil veces antes.
Solo por mil y primera vez, me encontré con un mentiroso que era particularmente bueno actuando, ese día estaba de mal humor y me encontré con mi propia debilidad.
Eso puede significar que los ahorros de toda su vida se habrán acabado.
Los mentirosos pueden fallar innumerables veces, pero la gente común como tú y como yo, lamentablemente, a veces ni siquiera tenemos la oportunidad de fallar una vez.
Así que nuestro país, toda nuestra sociedad, ha hecho innumerables cosas y ha estado tratando de encontrar formas de aumentar la vigilancia de la gente común y corriente.
Ahora que la IA está aquí, los estafadores pueden usar la tecnología para reducir el costo de hacer el mal.
Entonces, ¿por qué no podemos utilizar la misma tecnología para reducir el coste de proteger a los demás?
En agosto de este año, Apate recibió US$8,15 millones en financiación de ronda semilla. Aunque parecen ser pequeños en toda la ola de IA, todavía estaré asombrado por ellos. Además, realmente han empezado a tener clientes como bancos y operadores de telecomunicaciones que están realmente dispuestos a pagar.
Una vez que la buena voluntad pueda seguir funcionando, copiarse y ampliarse, creo que el poder que genera puede exceder con creces la capacidad de una sola persona.
Qué coincidencia.
Justo cuando el incidente de Apate se hizo popular, algo muy similar estaba sucediendo en China.
Es la IA Xiaohai la que ha causado mucho ruido recientemente.
Creo que mucha gente lo sabe, así que les haré un breve resumen.
Probablemente, hay un grupo de personas que usan IA para generar por lotes algunos chicos guapos y gritar "tía" a la cámara todos los días.
El ida y vuelta significa que hoy mi padre está enfermo, mañana me acosarán y pasado mañana me faltará dinero. De todos modos, seguiré sufriendo miserablemente.
Al final, algunas mujeres de mediana edad y ancianas sintieron pena por él y compraron los productos de alta comisión en su escaparate. Algunas comisiones llegaron incluso al 55%. Probablemente este era uno de esos patrones.
Lo más escandaloso es que hay una anciana de 79 años que realmente creía en Xiao Hai por teléfono. Compró un billete de tren sola y corrió a Shanxi a buscarlo.
Porque Xiaohai le dijo que podían ir a ver las flores de albaricoque y recoger colmenillas juntos.
Pero la anciana ni siquiera sabía adónde ir después de llegar a Shanxi.
Ella sólo sabía que Xiaohai estaba allí.
Más tarde, la policía descubrió que algo andaba mal y le preguntó al respecto. Finalmente, contactó a su familia y lo acogió de regreso.
Luego, justo después de que se revelara este incidente, un grupo de jóvenes en China, con su magia y sabiduría, decidieron comenzar a usar la IA para contraatacar.
Uno de ellos era un estudiante universitario de 19 años llamado Xiaozhou.
Encontró que un anciano en la casa de su amigo había comprado varios artículos en su ventana porque sentía pena por Xiao Hai.
Entonces Xiaozhou pensó en una forma particularmente interesante, ya que el anciano creía en Xiaohai.
Dejemos que Xiaohai le diga al anciano que es un mentiroso, por lo que también usó IA para generar un video de 30 segundos.
Sigue siendo la misma cara de Xiao Hai, pero esta vez, Xiao Hai se ha transformado en una segunda generación rica que vive en una mansión y viste un traje.
Esta es una captura de pantalla de la entrevista de Beijing News con Xiaozhou.
En este video, el padre canoso de Xiaohai corrió y le aconsejó que no volviera a mentirles a esas tías y madres.
Como resultado, Xiaohai le dio la espalda y dijo que no le importaban en absoluto esas tías. Mientras él gritara, vendrían y darían dinero.
Finalmente, echó a su padre.
Después de que se publicó este video, en realidad solo tenía unas pocas docenas de "me gusta", pero el amigo de Xiaozhou le mostró el video a los ancianos en su casa.
El anciano que solía comprar cosas para Xiaohai dijo después de leer:
"Oh, ¿por qué es esto así?"
"Nunca más le compraré nada."
Así, un vídeo de 30 segundos realmente hizo que un anciano cambiara su decisión.
Más tarde, cada vez más jóvenes se contagiaron e inspiraron y comenzaron a unirse.
Algunas personas le pidieron a Xiao Hai que fuera a la cárcel, algunas le pidieron que fumara y bebiera, y otras le pidieron que usara una cadena de oro y contara dinero en una mansión.
Algunas personas incluso le pidieron a Xiaohai que usara uniforme de prisión, se agarrara a las barras de hierro de la prisión y admitiera ante la cámara que era un mentiroso.
Así comenzó un maravilloso enfrentamiento de IA.
Me gusta especialmente lo que dijo Xiaozhou en una entrevista con Beijing News.
"La gente amable no debe dejarse engañar."
Creo que una frase tan simple es más poderosa que cualquier gran manifiesto de IA.
Después de leer estas dos historias, la historia de Apate y Xiaozhou, me emocioné mucho. Además, esto demostró perfectamente un cambio muy especial en la era de la IA.
En el pasado, si una persona común y corriente quería hacer una buena acción, es posible que no pudiera hacerlo.
Ahora finalmente tiene la oportunidad de utilizar la inteligencia artificial y la tecnología para amplificar su buena voluntad.
Hace mucho tiempo, escribí un artículo sobre un estudiante de secundaria de 17 años que pretendía ser una IA y curó a toda la estación B con sus respuestas. Todos ellos son personas corrientes pero geniales.
Todos los días discutimos qué tan inteligente es el modelo, qué puntos de referencia ha superado y cuántas tareas puede completar que solo podían ser realizadas por humanos en el pasado.
Por supuesto que son importantes.
Pero creo que detrás de estas IA cada vez más poderosas, la pura bondad hacia las personas suele ser incluso más valiosa.
El futuro de la IA que más deseo ver es probablemente este.
La tecnología en sí misma en realidad no tiene posición.
Lo que la IA está amplificando nunca son solo las capacidades humanas.
También está ampliando las opciones de las personas.
Espero que algún día en el futuro podamos utilizar la tecnología más avanzada para proteger la bondad más antigua y simple de la humanidad.
Espero también a los que son amables.
Nunca tendrás que hacerlo por tu propia bondad.
Y volver a lastimarse.
Comentarios