¿Por qué tantas empresas que dependen de los datos de los usuarios para ganar dinero parecen tener debilidad por la inteligencia artificial? Si le preguntas a la presidenta de Signal, Meredith Whitaker, te dirá que es simplemente porque "la inteligencia artificial es una tecnología de vigilancia".
Al subir al escenario en TechCrunchDisrupt2023, Whittaker expuso su opinión de que la IA es en gran medida inseparable del big data y se dirige a la industria de larga data de empresas como Google y Meta, empresas empresariales y de defensa menos centradas en el consumidor pero igualmente destacadas.
"Requiere modelos de negocio de vigilancia; es una intensificación del crecimiento de la publicidad de vigilancia que hemos visto desde finales de la década de 1990. Creo que la IA es una forma de consolidar y ampliar los modelos de negocio de vigilancia", afirmó. "Un diagrama de Venn es un círculo. Usar inteligencia artificial también es una forma de vigilancia, ¿verdad? Ya sabes, pasas junto a una cámara de reconocimiento facial con un instrumento pseudocientífico de reconocimiento de emociones y genera datos sobre ti que, correcta o incorrectamente, dicen 'estás feliz, estás triste, tienes mala personalidad, eres un mentiroso, etc.' En última instancia, se trata de sistemas de vigilancia que se comercializan entre quienes tienen poder sobre nosotros: nuestros empleadores, gobiernos, control fronterizo, etc., para que hagan juicios y predicciones que determinen nuestro acceso a recursos y oportunidades".
Irónicamente, señala, los datos que sustentan estos sistemas a menudo están organizados y anotados por los mismos trabajadores a quienes se pueden dirigir esos datos (un paso necesario en el proceso de ensamblaje de conjuntos de datos de IA).
"A nivel de informar la verdad fundamental sobre los datos, no hay manera de crear estos sistemas sin trabajo humano: aprendizaje reforzado con retroalimentación humana, que nuevamente es solo una tecnología que desinfecta el trabajo humano inestable", explicó. "Miles de trabajadores están mal pagados, pero en general el costo es alto, y no hay otra manera de crear estos sistemas, absolutamente ninguna otra manera. En cierto modo, lo que estamos viendo es un fenómeno del Mago de Oz, donde cuando corremos el telón, en realidad no hay tanta inteligencia ahí fuera".
Sin embargo, no todos los sistemas de inteligencia artificial y aprendizaje automático son igualmente explotadores. Cuando se le preguntó si Signal utiliza alguna herramienta o proceso de inteligencia artificial en su aplicación o trabajo de desarrollo, confirmó que la aplicación tiene una "maqueta de dispositivo pequeño, pero no la desarrollamos, la usamos como parte de la función de desenfoque de rostros en nuestro conjunto de herramientas de edición de medios. En realidad, no es tan bueno... pero puede ayudar a detectar rostros en fotos de multitudes y desenfocarlas para que cuando compartas esas fotos en las redes sociales, no reveles los datos biométricos privados de las personas a Clearview y similares".
"Pero la cosa es como... sí, es un gran uso de la inteligencia artificial, ¿no nos permite simplemente contrarrestar toda la negatividad que estoy arrojando en el escenario?" añadió. "Por supuesto, si este es el único mercado para el reconocimiento facial... pero seamos claros. El proceso de desarrollo e implementación de tecnología de reconocimiento facial es costoso, y los incentivos económicos nunca harán que este sea el único uso".