Una mañana de mayo, un niño de 11 años que llevaba una barba postiza intentó engañar al sistema de estimación de edad de Roblox haciéndole creer que era mayor. Sin embargo, en cuestión de segundos, el sistema determinó que su rango de edad estaba entre 9 y 12 años, lo que demuestra que las nuevas medidas de verificación de edad que promueve la plataforma de juegos no se pueden eludir fácilmente.
La demostración, organizada por Roblox en su sede, fue parte del esfuerzo de la compañía por mostrar a los medios su última herramienta biométrica de detección de edad. Esta herramienta ha estado disponible a nivel mundial desde este año y se ha utilizado para clasificar a los usuarios menores de edad en cuentas clasificadas por edad a partir de este mes. La empresa espera responder a las dudas de larga data sobre la seguridad de los niños en la plataforma y demostrar a los usuarios, padres e inversores que está tomando medidas más estrictas para garantizar que los usuarios menores puedan actuar en un entorno virtual relativamente "apropiado para su edad".
Desde que se lanzó Roblox en 2006, se ha convertido en la plataforma de juegos sociales más grande del mundo centrada en niños. Los mundos virtuales de la plataforma son creados por los propios usuarios y oficialmente se denominan "experiencias". En los últimos años, Roblox ha endurecido las reglas sobre cómo los usuarios se comunican entre sí en la plataforma, ya que múltiples casos y demandas estatales acusan a la plataforma de ser un "coto de caza para depredadores infantiles".
En la última ronda de ajustes, la empresa lanzó oficialmente un sistema de cuentas jerárquicas para menores. Los usuarios de entre 5 y 8 años se clasificarán como cuentas "Roblox Kids", que tienen todas las funciones de mensajería desactivadas de forma predeterminada y sólo pueden jugar juegos marcados como contenido "mínimo" o "leve" para adultos. Los usuarios de 9 a 15 años ingresarán a la cuenta "Roblox Select". La plataforma irá abriendo gradualmente más funciones de chat y les permitirá acceder a juegos con una madurez de contenido de mayor a "media". Los usuarios mayores de 16 años pueden acceder a la biblioteca completa de juegos y a las funciones de chat de la plataforma en circunstancias normales.
Este sistema de calificación se basa en las reglas lanzadas anteriormente por Roblox: la plataforma ya requiere que todos los usuarios envíen una identificación emitida por el gobierno para verificar su edad o pasen una prueba de edad biométrica antes de poder usar la función de chat. El sistema estima automáticamente las edades de los usuarios y les permite chatear sólo con usuarios de un rango de edad similar. Las autoridades dicen que este es un paso crucial para la seguridad de los menores después de los viejos tiempos de los "cumpleaños autoinformados".
Sin embargo, el refuerzo de las medidas de seguridad ha tenido un impacto directo en el desempeño comercial de la plataforma. El número de usuarios activos diarios de Roblox ha caído de aproximadamente 152 millones en el tercer trimestre del año pasado a 132 millones en el primer trimestre de este año. El mercado reaccionó en consecuencia y el precio de las acciones de la empresa cayó un 18% en un día de negociación. Muchos jugadores se quejaron en línea de que su experiencia se vio gravemente debilitada por factores como "chat bloqueado", "resumen de chat generado por IA" y "nuevo umbral de edad para el juego".
Eliza Jacobs, vicepresidenta de política de productos de seguridad de Roblox, dijo en una entrevista en la sede de la compañía en San Mateo que la compañía ve los cambios como "una inversión en la visión a largo plazo de Roblox". Reconoció que las nuevas regulaciones causarían insatisfacción y conmoción en la comunidad en el corto plazo, pero creía que era necesaria perseverancia durante el período de transición. "No todo el mundo va a ser feliz todo el tiempo", afirmó. "La comunidad siente profundamente por Roblox y considera la plataforma su espacio, por lo que entiendo completamente sus sentimientos cuando introducimos cambios que los impactan".
Roblox se enfrenta actualmente a una presión legal cada vez mayor. Al menos nueve estados de EE. UU. han demandado a la empresa por preocupaciones sobre la seguridad infantil, y otros tres estados han optado por llegar a un acuerdo con Roblox como alternativa al litigio. Más de 150 familias también han demandado a Roblox en casos individuales, acusando a la plataforma de no evitar que los niños sean preparados o agredidos sexualmente en la plataforma. Estas demandas se han consolidado en una demanda conjunta multidistrital en el Tribunal de Distrito Federal para el Distrito Norte de California.
En respuesta a las críticas, Roblox enfatizó en una declaración escrita que la compañía está "profundamente comprometida con la creación de un ambiente seguro, saludable y apropiado para la edad de la comunidad". El comunicado decía que las acusaciones contra la plataforma "fundamentalmente malinterpretan cómo opera Roblox e ignoran las numerosas medidas que hemos tomado y estamos implementando de manera proactiva para establecer nuevos estándares para la seguridad en línea".
Sin embargo, el esquema de verificación de edad de Roblox también ha generado preocupaciones sobre la privacidad y la precisión. La compañía dijo que su proveedor de servicios externo, Persona, elimina los datos biométricos de los usuarios inmediatamente después de que se completa la estimación de la edad para abordar las preocupaciones de los usuarios sobre violaciones de privacidad. Al mismo tiempo, algunos usuarios todavía están discutiendo el problema del juicio inexacto del sistema o de que los jugadores encuentran formas de evitarlo.
Las herramientas de estimación de la edad se están adoptando cada vez más en Internet. Están surgiendo medidas de verificación de edad de todo tipo a medida que las plataformas sociales son criticadas por no proteger a los niños. Pero los defensores de los derechos digitales y la libertad de expresión advierten que dicha tecnología podría a su vez crear nuevos riesgos de seguridad y privacidad, especialmente en la forma en que se almacenan y utilizan los datos.
Jacobs dijo que la tecnología de inteligencia artificial utilizada por Roblox estima la edad del usuario en función de la estructura facial del usuario, que generalmente puede fluctuar dentro de 1,4 años de la edad real del niño. En su opinión, este método es mucho más preciso que seleccionar un cumpleaños de una lista desplegable. "Marcar una casilla para decirle al sistema que tienes 13 años o más ya no es suficiente", dijo, y agregó que la compañía creía que "la era de la edad autoinformada ha terminado".
Roblox ha establecido múltiples canales de apelación para los usuarios cuya edad ha sido estimada incorrectamente por el sistema. Jacobs dijo que los usuarios que el sistema considere más jóvenes de lo que realmente son pueden presentar documentos de identificación del gobierno para corregir la información de edad en sus cuentas; Los padres también pueden cambiar manualmente la edad en las cuentas infantiles vinculadas. Al mismo tiempo, la empresa ejecuta un sistema de "estimación continua de la edad" en segundo plano para comprobar si hay alguna anomalía en la edad de registro de la cuenta a través de la "edad de comportamiento" del usuario.
El sistema considera señales como el período de tiempo que juega un usuario, el tipo de juego que elige y el estilo de lenguaje utilizado en los chats (por ejemplo, “los niños en la pubertad usan un lenguaje muy diferente al de las generaciones mayores”) para determinar si se debe solicitar al usuario que vuelva a verificar su edad. "Ningún sistema es perfecto y sabemos que a veces cometemos errores", admitió Jacobs. La empresa espera encontrar un equilibrio entre corregir errores y prevenir el abuso de los usuarios.
Krista Carroll, una madre que participó en la manifestación en la sede de Roblox, dijo que criar niños en la era digital y monitorear su comportamiento en línea puede ser estresante. Ella cree que las medidas de seguridad corporativas pueden aliviar en cierta medida la carga que pesa sobre los padres. "Me alegra ver que Roblox se toma en serio este problema y levanta más vallas de privacidad", dijo. "Espero que más empresas utilicen esto como ejemplo para pensar en cómo proteger a nuestros niños".
Al mismo tiempo, Roblox también encontró fricciones con su gran comunidad de desarrolladores en el proceso de combatir el contenido dañino. Hay más de 24.500 desarrolladores de juegos en la plataforma, muchos de los cuales son simplemente entusiastas independientes. Juntos, han creado decenas de millones de juegos creados por usuarios. En el pasado, casi cualquiera podía publicar estos trabajos a voluntad, lo que hacía extremadamente difícil la regulación del contenido en la plataforma.
En mayo de este año, Roblox introdujo nuevos requisitos de lanzamiento para los desarrolladores: para cualquier juego abierto a jugadores menores de 16 años, los desarrolladores deben completar la verificación de identidad, habilitar la autenticación de dos factores y pagar un "depósito financiero". Específicamente, los desarrolladores compran una suscripción paga o pagan una tarifa de publicación única de 1000 Robux (la moneda virtual de la plataforma) por juego. La compañía considera que esto agrega una capa de mecanismo de filtrado para evitar que usuarios malintencionados carguen juegos con contenido ilegal en grandes cantidades. En el pasado, los juegos creados por usuarios que contenían contenido pornográfico, violento u otro contenido prohibido aparecían con frecuencia en la plataforma y eran difíciles de detectar a tiempo por los revisores.
Pero esta nueva norma provocó inmediatamente una fuerte reacción en la comunidad, y muchos creadores acusaron a la plataforma de elevar la barrera de entrada para los pequeños desarrolladores, dificultándoles afrontar el coste de pagar por cada trabajo. Jacobs respondió que este tipo de compromiso financiero es crucial para garantizar que los desarrolladores realmente se preocupen por la plataforma y la comunidad y estén dispuestos a "crear responsablemente". "Queremos garantizar, mediante mecanismos de 'fricción' apropiados, que los desarrolladores que publican contenido para millones de usuarios estén comprometidos y sean responsables", dijo.
Según la compañía, cualquier juego abierto para cuentas "Niños" y "Selectas" debe someterse a una revisión adicional antes de estar en línea. El proceso de revisión incluye juegos de prueba en tiempo real por parte de jugadores de 16 años o más, y observadores de la plataforma que observan el proceso del juego en el sitio para identificar posibles riesgos de seguridad o violaciones de políticas. Jacobs dijo que la compañía recopila comentarios a través de un "Consejo de Seguridad Comunitaria" global, un grupo de creadores de Roblox que brindan recomendaciones mensuales a la compañía sobre medidas de seguridad. Pero reconoció que no importa cómo se comunique la empresa, algunos cambios seguramente serán controvertidos.
"Estamos construyendo una visión para un futuro seguro y civilizado en el que realmente creemos", dijo Jacobs. "Si algunas personas se molestan por esto de vez en cuando, estamos de acuerdo".