Según noticias del 23 de junio, Meta suspendió indefinidamente un proyecto interno de capacitación en IA. El proyecto registra las entradas del teclado, las operaciones del mouse y el contenido de la pantalla en las computadoras de trabajo de los empleados para entrenar a la IA para que aprenda a operar el software; El motivo de la suspensión fue que los derechos de acceso a los datos del proyecto estaban mal configurados y unas 45.000 tablas de datos alguna vez estuvieron abiertas al personal interno de Meta.
WIRED y Business Insider informaron por separado sobre el incidente de permisos internos. Según el aviso de seguridad interno de Meta, los datos en cuestión pertenecen a la Model Capability Initiative (MCI), que contiene rastros de operaciones en las computadoras de trabajo de los empleados, así como contenido confidencial como "indicaciones y transcripciones completas de IA, conversaciones privadas, datos de personal y desempeño". Los datos mencionados en el informe de WIRED se refieren principalmente a equipos de la empresa pertenecientes a los empleados estadounidenses de Meta.
La portavoz de Meta, Tracy Clayton, confirmó que la compañía está investigando el incidente de seguridad y dijo que MCI ha sido suspendida indefinidamente mientras continúa la investigación. También enfatizó que Meta "actualmente no tiene indicios de que los empleados hayan accedido indebidamente a los datos". Sin embargo, esto es sólo una declaración en la etapa actual de la investigación y no equivale a la conclusión final.
Los riesgos que preocupaban a 1.600 empleados resultaron ser ciertos.
MCI se lanzó en abril de este año con el objetivo de recopilar datos sobre el comportamiento laboral de los empleados en computadoras para entrenar sistemas de inteligencia artificial. El director ejecutivo de Meta, Mark Zuckerberg, explicó anteriormente esta idea en reuniones internas: los modelos de IA pueden aprender observando cómo trabajan los buenos empleados, y los empleados de Meta están mejor preparados para proporcionar muestras de alta calidad que el personal subcontratado contratado específicamente para producir este tipo de datos.
Esta explicación no convenció a la mayoría de los empleados. En mayo, más de 1.600 empleados de Meta firmaron una petición interna pidiendo el fin de este seguimiento del comportamiento informático. La petición afirma que la recopilación de dichos datos plantea riesgos regulatorios y de seguridad, incluidas violaciones de datos y divulgación no autorizada.
El director de tecnología de Meta, Andrew Bosworth, dijo anteriormente a los empleados que la gestión de datos de MCI está "estrictamente controlada", utilizando los mismos estándares de protección, sistemas de almacenamiento y controles de acceso que otros conjuntos de datos confidenciales de la empresa. Pero después de este incidente, Bosworth admitió que la implementación real del proyecto no cumplió con los estándares enumerados en el documento de revisión de privacidad. Dijo en una publicación interna que el problema radicaba en una lista de control de acceso mal configurada y que la empresa necesitaba descubrir la causa y rastrear la ruta de acceso a los datos.
No es un ataque externo, pero los permisos internos no están bloqueados correctamente.
Este incidente fue clasificado internamente como SEV2 por Meta. Según la explicación del informe, el nivel de gravedad interno de Meta oscila entre 0 y 5, siendo 0 el más grave y SEV 2 el nivel más alto. Las publicaciones internas vistas por WIRED muestran que el incidente se marcó como "cerrado", lo que significa que es posible que se haya solucionado el problema de permisos, pero Meta aún no ha declarado públicamente las soluciones específicas ni el cronograma completo.
Para los empleados, el punto de disputa no es sólo si alguien realmente ha visto los datos de otras personas, sino que la empresa ha prometido previamente "controlar estrictamente" conjuntos de datos confidenciales y, de hecho, ha habido problemas con permisos de acceso que son demasiado amplios. Un empleado escribió en un foro interno que no podía ver evidencia de acceso malicioso, pero que estaba "enojado" porque los datos no estaban bloqueados como se había prometido. BusinessInsider también informó que los empleados internos reaccionaron fuertemente al proyecto y a este incidente.
El incidente también afecta a las limitaciones regulatorias a largo plazo que enfrenta Meta. Meta sigue sujeta a una orden de consentimiento de la Comisión Federal de Comercio (FTC) de EE. UU. que exige que la empresa mantenga procesos para evitar filtraciones de datos hasta 2040. WIRED también mencionó que Meta ha comenzado a involucrar a la IA en algunos trabajos de revisión de privacidad y seguridad; sin embargo, actualmente no hay evidencia de que AI haya estado involucrada en este error de configuración de permisos de MCI.
Los sprints de IA están afectando la confianza dentro de las empresas
MCI no es un proyecto aislado. Meta creó un nuevo equipo "Applied AI" (AI aplicada) en marzo de este año, asignando aproximadamente 6.500 empleados a puestos relevantes, con el objetivo de mejorar los modelos de IA. Business Insider informó que algunos empleados sentían que los proyectos que se les asignaban eran triviales y agotaban la moral; Bosworth se disculpó con los empleados la semana pasada por problemas de comunicación durante la reorganización de la IA y prometió mejorar la comunicación y restaurar algunos beneficios de la oficina.
Esta vez que se suspende MCI, el costo interno del sprint de Meta hacia la IA queda más concretamente expuesto. La compañía puede decir que no ha encontrado signos de acceso inadecuado hasta el momento, pero mientras este tipo de datos se hayan abierto por error, la confianza de los empleados en "entrenar la IA con sus propios comportamientos laborales" será difícil de reparar solo con promesas internas. Los empleados no son sólo los proveedores de datos de formación de IA, sino también los portadores directos de los riesgos de privacidad y seguridad. Esta doble identidad es lo que realmente duele en este incidente.