La plataforma de juegos en línea Roblox anunció recientemente que lanzó una función de reescritura de chat en tiempo real basada en inteligencia artificial. Cuando los jugadores envían mensajes con contenido ilegal, el sistema ya no simplemente los bloquea con el signo "#", sino que reescribe automáticamente las expresiones relevantes en un lenguaje más educado y compatible con la plataforma, mientras intenta acercarse lo más posible a la intención de expresión original del usuario. Roblox afirmó que en el pasado, grandes párrafos de "####" no solo interrumpían el ritmo de la conversación, sino que también dificultaban que los jugadores entendieran el contexto. Por lo tanto, Roblox espera utilizar este método para reducir la fricción en el proceso de chat mientras se mantienen los estándares de civismo de la comunidad.

Según el nuevo mecanismo, cuando un usuario ingresa contenido que contiene palabras confidenciales, la ventana de chat mostrará directamente el texto reescrito y avisará a todos los usuarios que participan en la conversación que el mensaje ha sido reescrito para ayudar a mantener una atmósfera de comunicación amigable y clara. Por ejemplo, el informe decía que la frase "¡Date prisa, TF!" que habría sido completamente bloqueado como "####" ahora se cambiará a expresiones más neutrales como "¡Date prisa!" Rajiv Bhatia, vicepresidente de productos de usuario y descubrimiento de Roblox, dijo en un comunicado de prensa que el chat es el núcleo de la experiencia social, colaborativa y de juego de los jugadores en la plataforma, y ​​la reescritura en tiempo real ayuda a guiar a los usuarios a utilizar términos más apropiados sin interrumpir el ritmo del juego.

Bhatia enfatizó que, por un lado, esta característica reduce los obstáculos en el chat "puliendo en lugar de silenciando", por otro lado, aún mantiene los estándares de seguridad originales de la plataforma, y ​​se seguirán utilizando sistemas de seguridad estrictos para hacer frente a violaciones más graves. Roblox señaló que la función de reescritura en tiempo real recientemente lanzada es aplicable a todos los idiomas admitidos por las herramientas de traducción automática de la plataforma actual para cubrir su base de usuarios multilingües.

Además de la nueva función de reescritura, Roblox también ha actualizado su sistema de filtrado de texto para identificar más variaciones de lenguaje ilegal. La compañía dijo que después de las mejoras, se mejoró el rendimiento del sistema en la identificación de "leetspeak" y métodos de escritura más complejos para evitar la censura, reduciendo así significativamente los "errores" en escenarios de compartir o solicitar información personal, y la tasa de errores de juicio relacionados se redujo en aproximadamente 20 veces.

La actualización se produce en un contexto en el que Roblox endurece las medidas de seguridad en la plataforma. Roblox acaba de introducir la verificación facial obligatoria para el chat de la plataforma en febrero de este año después de que la compañía enfrentara múltiples demandas presentadas por fiscales generales estatales de Texas, Kentucky y Luisiana, alegando que la plataforma tenía serios peligros ocultos para la seguridad infantil. Las demandas surgen de múltiples informes de investigación y acusaciones de organizaciones de investigación de que Roblox expone a usuarios menores de edad a entornos de alto riesgo, incluido engaño y contenido explícito, lo que desencadena un escrutinio regulatorio continuo y presión sobre sus mecanismos de seguridad.

Impulsado por la presión regulatoria y las demandas de seguridad de la comunidad, Roblox esta vez utiliza una combinación de reescritura de IA en tiempo real y filtrado de texto más potente para tratar de mantener la coherencia y legibilidad de los chats del juego tanto como sea posible, garantizando al mismo tiempo la seguridad de niños y adolescentes.