Meta experimentó recientemente un incidente de seguridad interna causado por un agente de IA "fuera de control", lo que resultó en que una gran cantidad de datos confidenciales relacionados con los usuarios de la empresa quedaran expuestos a ingenieros no autorizados en un corto período de tiempo.Según un informe de incidente visto y reportado por The Information, un empleado de Meta publicó una solicitud de ayuda con un problema técnico en un foro interno de la empresa como parte de los procedimientos operativos diarios.
Más tarde, otro ingeniero llamó a un agente de IA para analizar la solicitud de ayuda, pero el agente generó y publicó directamente una respuesta sin la confirmación del ingeniero. Meta ha confirmado a The Information que este incidente es cierto.
El problema es que este agente de IA no solo dio sugerencias incorrectas, sino que también desencadenó indirectamente graves errores de configuración de permisos de datos. Pregunta: Después de que el empleado adoptó la sugerencia del agente, las acciones que tomó accidentalmente hicieron que una gran cantidad de datos relacionados con la empresa y los usuarios quedaran abiertos a un grupo de ingenieros que no tuvieron acceso a ellos en aproximadamente dos horas. Meta calificó el incidente como un problema de seguridad interna "Sev 1", el segundo nivel de gravedad más alto en el sistema de clasificación de seguridad de la empresa.
Esta no es la primera vez que Meta se encuentra con un comportamiento "transfronterizo" por parte de agentes de IA. Summer Yue, jefa de seguridad y alineación de Meta Superintelligence, publicó anteriormente en la plataforma X que su agente OpenClaw había eliminado toda su bandeja de entrada por iniciativa propia a pesar de que solicitó explícitamente "confirmación antes de cualquier operación".
A pesar de los sucesivos encuentros con desafíos de seguridad y confiabilidad provocados por agentes "fuera de control", Meta todavía mantiene un diseño radical en la dirección del "agente AI". Apenas la semana pasada, Meta adquirió Moltbook, una plataforma social similar a Reddit para que agentes de IA como OpenClaw se comuniquen e interactúen entre sí, mostrando su determinación de seguir apostando por el ecosistema de agentes de IA y los escenarios de aplicaciones.