A principios de este año, la plataforma social Discord implementó una "adolescencia por defecto" en respuesta a la presión regulatoria global, tratando a todos como menores por defecto y bloqueando directamente algunas funciones. Para desbloquear el modo adulto, debes pasar la verificación de edad.Hay dos métodos de verificación principales.: Tome un breve video selfie con la cámara y deje que la IA calcule la edad localmente en nuestro teléfono móvil; o subir sinceramente el DNI.

Como resultado, los amigos de Internet iniciaron varias pruebas extremas. Algunas personas usaron capturas de pantalla del juego para engañarlos, otras usaron modelos 3D y lo más escandaloso fue usar figuras hechas con dedos.

Alguien dibujó dos ojos y una boca en su pulgar, lo levantó frente a la cámara, siguió las indicaciones del sistema para centrar, alinear, girar a la izquierda, girar a la derecha... Una vez completado el análisis de IA, la conclusión fue:¡13-15 años, verificado!

A Internet nunca le ha faltado imaginación a la hora de "aprovechar las lagunas jurídicas". También hubo un niño de 12 años que se dibujó una barba con un lápiz de cejas y el sistema consideró que tenía 15 años y pasó con éxito la revisión.

¿Por qué sucede esto?

Para hacer frente a la supervisión y minimizar los conflictos de privacidad, estas plataformas han elegido una solución de estimación de la edad facial en el dispositivo, en la que el usuario graba un vídeo delante de la cámara. El modelo de IA se ejecuta completamente en el teléfono móvil o computadora local, y solo los resultados finales del juicio del rango de edad se envían al servidor. No se subirán el vídeo completo ni los datos del rostro.

Esto parece un riesgo bajo para la privacidad y el proceso de verificación es relativamente ligero, pero la desventaja es que los recursos informáticos disponibles son limitados, el modelo no puede ser demasiado complejo y no puede depender de un análisis intensivo en el lado del servidor.

Estos modelos se basan principalmente en características visuales como ojos, boca, contornos faciales y textura de la piel para inferir la edad. Un simple pulgar dibujado con dos puntos y una línea se ajusta inesperadamente al patrón abstracto de un "rostro joven y suave" bajo una luz, un ángulo y una resolución bajos específicos.

Cuando el sistema requiere que la "cara" esté centrada y girada hacia la izquierda y hacia la derecha, el ligero temblor natural y los siguientes movimientos de los dedos proporcionan una señal de movimiento básica, que es suficiente para que la detección de vida relativamente liviana lo considere como un objeto "vivo" y lo suelte directamente.

Los modelos de estimación de edad de IA se entrenan principalmente utilizando cantidades masivas de datos de rostros reales y, por naturaleza, carecen de la solidez suficiente para entradas tan abstractas y no estándar.

En los primeros días del lanzamiento, para evitar que los usuarios normales fallaran con frecuencia debido a mala iluminación, ángulos incorrectos o apariencias especiales, la plataforma tuvo que establecer el umbral de manera relativamente flexible, lo que le dio a este malvado método de baja tecnología la oportunidad de aprovechar.

Situaciones similares han ocurrido en plataformas como Roblox. Se puede ver que la tecnología actual de la edad facial está lejos de ser hermética cuando se enfrenta a métodos de engaño cuidadosamente diseñados.

Las plataformas no se quedan quietas.

Hace algún tiempo, Meta anunció que utilizaría IA para escanear activamente fotos y vídeos subidos por los usuarios.Utilice pistas visuales generales, como la altura y la estructura ósea, para determinar si el propietario de la cuenta es menor de 13 años y luego elimínelo directamente..

Meta enfatiza específicamente: "Esto no es reconocimiento facial". Sólo hace juicios aproximados sobre el rango de edad. "

Además, Meta no solo mira imágenes, sino que también combina el contenido de texto de toda la cuenta con retratos completos de comportamientos interactivos, como pasteles de cumpleaños, menciones del grado escolar, etc., que se incluirán en el juicio.

Una vez que la IA considera que es menor de edad, primero eliminará la cuenta. Si desea recuperarlo, debe pasar por el proceso de verificación oficial. Este sistema está actualmente en línea en algunos países y se expandirá gradualmente a más regiones en el futuro. También está previsto ampliarlo a Instagram Live, grupos de Facebook y otros escenarios.

La plataforma utiliza IA para tapar las lagunas y los usuarios están encontrando formas de explotarlas.

Lo más probable es que este juego del gato y el ratón continúe.