Resumen:
El 11 de septiembre, Anthropic publicó el último informe sobre abuso de IA indicando que App Development Studio utilizó a Claude para desarrollar y operar más de 20 aplicaciones de citas. La plataforma afirma que todos los usuarios son personas reales, pero alrededor del 75% de las coincidencias recibidas por los usuarios normales son personajes de IA.
Anthropic afirmó que durante un período de observación de dos semanas en abril de 2026, este lote de software de citas ejecutó más de 4700 caracteres de IA, conversó con al menos 25 000 usuarios diferentes y envió un total de aproximadamente 2,36 millones de mensajes. Las personas afectadas son principalmente usuarios estadounidenses, pero el informe no revela su edad, sexo ni el monto específico de la pérdida.
Es difícil para estos usuarios juzgar si la persona con la que están chateando es real o falsa. La plataforma muestra materiales en una proporción de aproximadamente 3 personajes de IA por 1 persona real. Claude es responsable de mantener miles de conversaciones simultáneamente y los trabajadores humanos a tiempo parcial están ahí para reducir las sospechas cuando los usuarios solicitan videollamadas, fotos o siguen cuentas sociales.
Los trabajadores humanos a tiempo parcial también cuentan con la ayuda de la IA. El sistema generará 3 respuestas alternativas para cada mensaje, y los trabajadores a tiempo parcial sólo deberán elegir una de ellas para enviar. Se pagan según la cantidad de mensajes de chat, videollamadas y registros de plataformas sociales, y se pueden liquidar después de alcanzar un umbral de retiro bajo.
Para las cuentas completamente controladas por IA, el operador exige que Claude no admita que es un robot. Si el usuario realiza una solicitud de vídeo o foto, la IA encontrará motivos para evitarlo y avanzará gradualmente en la relación según las etapas preestablecidas. El backend también crea me gusta falsos, registros de visitantes y videos pregrabados, y señala a los usuarios que han comenzado a sospechar que son robots.
Los usuarios necesitan consumir créditos para chatear y hacer coincidir en la plataforma. Después de agotarse, deben comprar moneda virtual en la aplicación para recargar. Este modelo es similar a la estafa "Beng Laotou" a la que se hizo referencia recientemente en la Internet china. Ambos utilizan personajes femeninos falsos y charlan continuamente para estimular a los hombres a pagar.
El informe también menciona que en algunas conversaciones aleatorias, algunos usuarios revelaron que padecían enfermedades graves o padecían dolores extremos. El razonamiento interno de Claude ha identificado daños potenciales, pero continúa charlando bajo la identidad ficticia sin salir de la conversación.
Para evitar la revisión de la tienda de aplicaciones, el operador también diseñó una interfaz especial para el software que solo se habilita durante el período de revisión. Más de 20 aplicaciones utilizaron diferentes nombres de clases de programas para evadir los mecanismos de detección utilizados por Apple y Google para identificar aplicaciones similares. La entrada a la plataforma de pago de terceros también puede ser controlada remotamente por el servidor y ocultada temporalmente durante el período de revisión.
Las marcas de software de citas relevantes divulgadas por Anthropic incluyen DORA, DONI, ROMI, LUMA, JOVIA, KIRA, GRACECHAT, HAVEN, NALO y LOVIA, etc. La compañía ha prohibido cuentas relevantes y ha proporcionado información sobre la identidad de la aplicación y elusión de reseñas a Apple y Google.
Cabe enfatizar que los hallazgos anteriores provienen de la divulgación unilateral de Anthropic y aún no han sido verificados por un tercero independiente. El informe no reveló el nombre del estudio de aplicaciones involucrado, ni reveló si los usuarios habían denunciado el caso o la cantidad real de dinero defraudada.
Comentarios