PimEyes, un motor de búsqueda público que utiliza el reconocimiento facial para buscar fotos de personas en línea, ahora ha sido prohibido para menores debido a preocupaciones sobre la seguridad personal de los niños, según The New York Times. Al menos en teoría. El nuevo sistema de detección de PimEyes, que utiliza IA de detección de edad para identificar si una cara es la de un niño, aún está en desarrollo. Después de probarlo, el New York Times descubrió que todavía era difícil identificar si la persona fotografiada era un niño en ciertos ángulos, y la IA no podía detectar con precisión si un adolescente era un adulto.
El director ejecutivo de PimEyes, Giorgi Gobronidze, dijo que la compañía ha estado planeando implementar este tipo de medidas de protección desde 2021. Pero después de que el escritor del New York Times, Kashmir Hill, publicara un artículo la semana pasada sobre la amenaza que representa la IA para la seguridad personal de los niños, la función finalmente se implementó por completo.
Hill escribió en el artículo que el servicio ha prohibido más de 200 cuentas por realizar búsquedas inapropiadas para niños. Una madre le dijo a Hill que incluso descubrió fotos de sus hijos que nunca antes había visto usando PimEyes. Para saber de dónde procedían las imágenes, la madre tuvo que pagar una suscripción de 29,99 dólares al mes.
PimEyes es sólo uno de los motores de reconocimiento facial del mundo actualmente bajo escrutinio por violar la privacidad. En enero de 2020, la investigación de Hill en el New York Times reveló cómo cientos de organizaciones policiales utilizaban un motor de reconocimiento facial llamado Clearview AI con poca supervisión.
Daly Barnett, experto en tecnología de la Electronic Frontier Foundation, dijo a The Intercept el año pasado: "Este es sólo otro ejemplo de un problema general importante en la tecnología, tenga o no capacidades de vigilancia". También criticó la falta de medidas de protección infantil de PimEyes en ese momento: "[PimEyes] no creó protecciones de privacidad desde el principio, y los usuarios tienen que elegir que su privacidad no se vea comprometida".