Una nueva empresa llamada Memvid publicó recientemente un controvertido aviso de contratación, reclutando abiertamente a un "matón profesional de IA" para "torturar" a los chatbots convencionales durante todo el día, con un salario de hasta 800 dólares, lo que generó una discusión en el mundo exterior sobre si su motivación es una prueba técnica seria o un truco de marketing cuidadosamente diseñado.
Memvid afirmó que el objetivo principal de este reclutamiento es exponer completamente al público el problema del "defecto de memoria" que es común en los grandes modelos y chatbots actuales. La compañía cree que aunque los modelos de lenguaje grandes funcionan bien en la simulación de "conversaciones inteligentes significativas", siguen siendo esencialmente productos de software engañosos con capacidades de memoria muy limitadas y a menudo "olvidan" lo que el usuario acaba de decir en la misma ronda de conversación, lo que hace que los usuarios tengan que reiterar la información repetidamente.
Según la página de empleo, este puesto por hora de un día se paga a 100 dólares la hora, con ganancias totales de 800 dólares, y está abierto a trabajadores remotos en todo el mundo. Los reclutas interactuarán con varios chatbots de IA convencionales de una manera casi "agresiva" a alta intensidad, lo que les exigirá recordar continuamente información diversa. Durante el proceso, el sistema registrará situaciones como conversaciones fallidas, contexto olvidado e inconsistencias. Además de que los propios candidatos tomen notas detalladas, Memvid también registrará todo el experimento mediante grabación de pantalla o cámara para su posterior análisis.
Curiosamente, este trabajo no requiere que los candidatos tengan experiencia técnica en IA o "experiencia de intimidación", pero lo establece claramente en las condiciones: los solicitantes deben presentar una declaración personal detallada que explique sus experiencias negativas pasadas al usar productos tecnológicos, y deben tener una insatisfacción clara y fuerte con la tecnología de IA actual. Mohamed Omar, cofundador y director ejecutivo de la empresa, afirmó que querían encontrar “alguien que realmente odie la IA” para completar la tarea.
Omar señaló en una entrevista que los graves problemas de memoria que enfrentan los chatbots en la actualidad están estrechamente relacionados con la "falta de confiabilidad" de las soluciones de memoria de IA de primera generación. En su opinión, poder retener continuamente la información del usuario y mantener la coherencia contextual en conversaciones largas es el santo grial de "un chatbot verdaderamente útil". El llamado fenómeno de "alucinación" es en gran medida un resultado directo de mecanismos de memoria y hábitos de uso deficientes en modelos grandes.
Memvid aprovecha esta oportunidad para promover su solución de capa de memoria de IA de desarrollo propio. La compañía afirma que se trata de un componente de memoria de mejora automática basado en archivos que puede proporcionar un contexto persistente en conversaciones para modelos grandes y chatbots, mejorando así la precisión de la respuesta, reduciendo la latencia y mejorando la utilización de la infraestructura sin sacrificar el rendimiento. Esta capa de memoria se puede utilizar como la capacidad central del producto de chatbot Kora de Memvid, o se puede integrar en otros productos de inteligencia artificial en forma de herramientas de desarrollo.
A medida que los modelos grandes se implementan ampliamente en escenarios de aplicaciones reales, el problema de la memoria de IA se está volviendo cada vez más prominente: frente a enormes almacenes de datos y requisitos comerciales complejos, los chatbots con frecuencia experimentan "fragmentos", olvidando eventos pasados e incluso inventando cosas aleatorias durante interacciones a largo plazo y de múltiples rondas, y la experiencia del usuario se daña constantemente. En este contexto, el reclutamiento de “intimidación por IA” de Memvid es a la vez una publicidad creativa para sus propios productos y una llamada de atención para reiterar el estado actual de la industria, recordando al público que la IA actual todavía está lejos de ser un “compañero de conversación verdaderamente confiable”.
El reclutamiento para el puesto continuará durante varias semanas y sólo se seleccionará un candidato, dijo Memvid. La compañía espera obtener suficientes casos negativos a través de esta "tortura" intensiva de los chatbots convencionales, que no sólo proporcionarán materiales de exhibición para sus propios productos, sino que también proporcionarán un punto de entrada vívido para las discusiones sociales sobre la seguridad y confiabilidad de la IA.