Meta está apostando fuertemente por las gafas inteligentes para avanzar en su negocio de inteligencia artificial y realidad aumentada, pero los procesos internos recientemente expuestos han vuelto a plantear fuertes dudas sobre sus límites de privacidad. Varios anotadores de datos empleados por la empresa de subcontratación de Kenia Sama revelaron que tienen que ver y anotar una gran cantidad de videoclips sin procesar filmados con la función "AI en vivo (IA en tiempo real)" de las gafas inteligentes Meta todos los días, que no solo incluye escenas de interacción diaria, sino que también involucra escenas extremadamente privadas e incluso impactantes.
Estas anotaciones son una parte clave del entrenamiento del sistema de visión por computadora Meta. Cada fotograma de vídeo que se anota manualmente retroalimentará el rendimiento del algoritmo de su asistente de realidad aumentada. Una vez activada la función "live AI", las gafas inteligentes lanzadas por Meta y Ray-Ban seguirán recopilando vídeos cortos y audio a través de cámaras y micrófonos para analizar las escenas vistas por el usuario en tiempo real y responder a sus preguntas. Luego, los datos relevantes se cargarán en el sistema Meta y se integrarán en un enorme conjunto de datos de entrenamiento para optimizar las versiones futuras del asistente de IA.
Sin embargo, los empleados de Sama dicen que los datos cargados son en realidad mucho más privados de lo que los usuarios imaginan. Estos comentaristas de datos dijeron que han visto repetidamente escenas de personas con anteojos moviéndose, cambiándose de ropa e incluso teniendo relaciones sexuales en el baño, y la perspectiva de la toma es desde los propios anteojos. Incluso si no se trata de contenido explícito, los clips relevantes a menudo revelan una gran cantidad de información confidencial, como tarjetas bancarias completamente visibles, diseños interiores de casas claramente identificables e incluso conversaciones muy privadas. Se incorporaron clips de audio que documentan discusiones sobre protestas, presuntos comportamientos criminales o la privacidad de la vida personal en el material de capacitación del algoritmo de Meta.
A juzgar por los términos públicos, Meta ha reservado espacio para este enfoque a nivel administrativo. La compañía escribe en sus términos de servicio y política de privacidad de IA que las interacciones con asistentes de "IA en vivo" pueden ser retenidas y vistas mediante sistemas automatizados o revisión humana, y recuerda explícitamente a los usuarios que no compartan información confidencial. Sin embargo, según informan los medios suecos Svenska Dagbladet y Göteborgs-Posten, los usuarios que realmente usan gafas no parecen entender que cada movimiento que realizan puede ser transmitido al extranjero y revisado fotograma a fotograma por contratistas desconocidos. Los anotadores revelaron que cuando se quejaban ante la gerencia de que la naturaleza del contenido era demasiado personal o que el proceso de anotación era incómodo, los comentarios a menudo eran descartados de plano.
Meta inicialmente no respondió a las repetidas preguntas de los periodistas suecos durante varias semanas. Cuando un portavoz respondió más tarde a los medios, todavía se basó únicamente en los términos de servicio de IA y la política de privacidad de la compañía, enfatizando que el contenido multimedia subido por los usuarios cuando usan "IA en vivo" se procesará de acuerdo con estos documentos, y se negó a proporcionar más comentarios a Straight Arrow News.
Las preocupaciones sociales en torno a los dispositivos portátiles Meta han seguido creciendo en los últimos meses. A principios de este año, The New York Times informó que Meta planeaba agregar capacidades de reconocimiento facial a sus gafas inteligentes, citando un memorando interno. Los grupos de libertades civiles advierten que cuando el reconocimiento facial se combina con la recopilación continua de videos, se podría crear una red de vigilancia móvil en el mundo real con supervisión y transparencia limitadas.
Fuera de Meta, los desarrolladores externos también están comenzando a intentar crear herramientas "defensivas" para hacer frente a esta amenaza emergente. Una aplicación de Android surgida recientemente afirma ser capaz de detectar si alguien está usando gafas inteligentes cerca: la aplicación escanea características visuales o de señales inalámbricas específicas y alerta al usuario una vez que determina que hay un dispositivo de grabación portátil sospechoso cerca.
Meta enfatizó que sus gafas inteligentes encenderán un pequeño indicador LED cuando graben para informar a las personas a su alrededor que están filmando. Sin embargo, los expertos en privacidad señalan que este diseño tiene una protección muy limitada en escenarios del mundo real, especialmente después de que los investigadores demostraron que la luz indicadora se puede apagar o ignorar fácilmente.
A los ojos de los reguladores y defensores de la privacidad, está surgiendo una pregunta clave: ¿Puede un recordatorio escondido en un largo período de servicio considerarse una "notificación efectiva" de una recopilación y revisión manual de datos personales a tan gran escala y en profundidad? Para aquellos anotadores que tienen que "enseñar" a la IA de Meta cómo entender el mundo todos los días, la respuesta parece evidente: saben exactamente qué tipo de contenido están viendo y también son conscientes del contenido, y es posible que la persona involucrada en el contenido nunca se dé cuenta.