Resumen:
El nuevo agente de inteligencia artificial "Muse", lanzado recientemente por Meta, ha estado involucrado en una grave controversia sobre invasión de la privacidad. Las pruebas relevantes encontraron que la herramienta de inteligencia artificial leyó y sincronizó una gran cantidad de registros de chat en la base de datos "Mensajes" (Mensajes) a nivel del sistema de los dispositivos Apple sin la autorización explícita del usuario, o incluso cuando los permisos relevantes estaban explícitamente deshabilitados.
Muse es un agente de inteligencia artificial promovido por Meta, cuyo objetivo es ayudar a los usuarios en la recuperación de datos, la generación de presentaciones y la asistencia en compras. Meta afirma oficialmente que el sistema se ejecuta en una computadora virtual dedicada y puede conectar varias aplicaciones y fuentes de datos para proporcionar interacciones personalizadas. Meta promete oficialmente que cumplirá estrictamente con los permisos del sistema establecidos por los usuarios y nunca accederá a datos no autorizados. Sin embargo, Meta también conserva un descargo de responsabilidad en la documentación del producto, que dice que el agente puede cometer errores o tomar "acciones inesperadas".
El columnista de medios tecnológicos Jason Aten descubrió una extralimitación grave en sus pruebas reales. Atten instaló Muse en un iPhone y una Mac mini que utiliza para evaluar herramientas de inteligencia artificial. Tan solo un día después de la instalación, Muse le recomendó proactivamente temas de artículos basados en conversaciones privadas que había discutido previamente con su compañero de podcast a través de mensajes de texto. Cuando se le preguntó, Muse inicialmente afirmó que la información relevante provenía de pancartas de notificación emergentes para llamadas entrantes o mensajes de texto. Sin embargo, una investigación técnica posterior reveló que Muse había sincronizado y capturado hasta 187.000 líneas de registros de texto en la base de datos de información local de Apple sin autorización y los había subido a la nube cuando el sistema no otorgaba "Acceso total al disco" y claramente no obtuvo permiso para leer mensajes de texto.
Esta anomalía muestra que Muse no solo interceptó conversaciones de Messenger propiedad de Meta, sino que también eludió las restricciones del sistema y extrajo por la fuerza los datos históricos nativos de SMS e iMessage de los dispositivos Apple. Sincronizar cientos de miles de filas de datos en sólo 24 horas significa que el programa lee por completo todos los archivos de chat históricos acumulados por el dispositivo en el pasado.
Analistas externos señalaron que este incidente refleja que los gigantes tecnológicos están desencadenando una crisis de privacidad más profunda al promover la IA generativa. Anteriormente, Meta fue ampliamente criticado por exigir a los usuarios que autorizaran la carga completa de fotos del álbum para "generar inspiración para publicaciones". Sus productos de gafas inteligentes también enfrentaban con frecuencia riesgos de infracción de la privacidad. El comportamiento de Muse esta vez expuso aún más que, en ausencia de supervisión y barreras técnicas efectivas, la recopilación de datos de privacidad personal por parte del sistema de inteligencia artificial está casi fuera de control. Incluso si los usuarios comunes optan por no utilizar activamente dichos productos, todavía existe el riesgo de que se filtren pasivamente sus interacciones privadas con los contactos que instalan el software. En la actualidad, Meta aún no ha proporcionado una explicación razonable de cómo Muse elude los permisos subyacentes del sistema para leer datos de terceros.
Comentarios