Resumen:
La aplicación de mensajería cifrada de extremo a extremo Signal anunció el viernes que limitará el acceso a capturas de pantalla en teléfonos móviles para evitar que los agentes de inteligencia artificial lean los chats privados de los usuarios. La compañía advirtió que la tendencia de la industria tecnológica de integrar profundamente la inteligencia artificial en los dispositivos de consumo está debilitando su capacidad para proteger la privacidad del usuario.

Los defensores de la privacidad han considerado durante mucho tiempo a Signal como líder en comunicaciones seguras. La compañía dijo que las nuevas medidas de protección introducidas esta vez son incompletas y pidió a los proveedores de sistemas operativos como Apple, la empresa matriz de Google, Alphabet y Microsoft, que proporcionen a los desarrolladores de aplicaciones medios más específicos y eficaces para evitar que los agentes de IA accedan a datos confidenciales.
Signal también exige que estas empresas revelen más a fondo cómo operan sus agentes de IA, lo que permite a los desarrolladores evaluar a qué datos acceden estos programas y ajustar sus sistemas en consecuencia. La medida refleja una creciente disputa entre las aplicaciones centradas en la privacidad y las grandes empresas tecnológicas. Estos últimos están compitiendo por lanzar agentes de inteligencia artificial que puedan ver el contenido de la pantalla de un usuario y realizar acciones en nombre del usuario en consecuencia.
Signal señaló específicamente que las capacidades de IA integradas directamente en el sistema operativo, como Siri AI de Apple y Gemini Intelligence de Google, son particularmente preocupantes porque están extremadamente integradas con los dispositivos de los usuarios. La compañía dijo que el sistema operativo proporciona un entorno de ejecución para Signal y otras aplicaciones, y la integración de estos "agentes AI" está haciendo que este entorno sea cada vez más desfavorable para la protección de la privacidad. Signal dijo en una publicación de blog proporcionada a Reuters que esto representaba una "amenaza existencial" para la empresa y su capacidad para cumplir su misión de manera responsable.
Para evitar que los agentes de IA escaneen los mensajes de Signal, el servicio está implementando nuevas configuraciones que bloquean el acceso a capturas de pantalla en teléfonos móviles y activará estas restricciones de forma predeterminada. Cuando Signal detecta un intento de captura de pantalla, o el asistente de IA intenta acceder a la pantalla, el usuario recibirá un mensaje emergente y podrá elegir si desea eliminar la restricción según las condiciones del dispositivo.
Signal impidió que Recall AI de Microsoft tomara capturas de pantalla en sistemas Windows el año pasado. La compañía dice que no puede brindar de manera confiable una protección similar en los sistemas macOS de Apple.
Los agentes de IA que pueden realizar operaciones en nombre de los usuarios se promocionan como la próxima gran ola de tecnología de IA. Pueden extraer información relevante de diferentes aplicaciones y completar tareas que ahorran tiempo, como responder correos electrónicos, concertar citas y comprar en línea, sin necesidad de que los usuarios den instrucciones paso a paso. Sin embargo, esta capacidad también puede eludir los mecanismos de protección que aplicaciones como Signal han creado para sí mismas.
Reuters informó a principios de esta semana que el agente Muse AI de Meta pudo eludir su herramienta oficial "Connector" y acceder a mensajes de Signal en computadoras y teléfonos Apple que ejecutan el sistema Android de Google. En ambos casos, Muse aprovechó los amplios permisos a nivel del sistema operativo otorgados cuando la aplicación se configuró inicialmente para obtener mensajes y usar esos permisos de maneras que el usuario quizás no hubiera anticipado.
Por ejemplo, en el sistema macOS de Apple, Muse utiliza una combinación de accesibilidad informática y herramientas de captura de pantalla, reutiliza la configuración de Apple para personas con discapacidades, navega a la interfaz de Signal, realiza capturas de pantalla del contenido del chat, extrae texto de imágenes y reproduce mensajes dentro de la aplicación Muse. Una actualización del sistema lanzada por Apple esta semana bloquea efectivamente esta ruta específica, pero también introduce un nuevo conjunto de permisos para agentes de IA que brindan capacidades similares y vienen con más advertencias para el usuario.
En respuesta al informe de Reuters, Meta declaró que el agente de IA necesita ver y operar la computadora del usuario para completar tareas en nombre del usuario; Muse sólo puede acceder a otras aplicaciones mediante permisos otorgados explícitamente por el usuario.
Signal dijo que los desarrolladores deberían tener una forma directa para que la aplicación salga completamente del proceso de procesamiento de datos del asistente de IA, especialmente en aspectos como la lectura de pantalla, las notificaciones y el acceso al sistema de archivos. Como servicio propiedad de una fundación sin fines de lucro, Signal promete a los usuarios una experiencia de mensajería segura al limitar los datos almacenados en sus propios servidores, negarse a publicar anuncios y proporcionar cifrado de extremo a extremo; lo que significa que la empresa no puede acceder ni leer las conversaciones de los usuarios dentro de su aplicación.
Signal señaló que un sistema de inteligencia artificial capaz de escanear la pantalla de un usuario puede extraer mensajes del entorno seguro de Signal y transmitirlos a otros servidores utilizados por el agente, destruyendo así el mecanismo de protección anterior.
Comentarios