Meta dijo hoy en una publicación de blog que está ampliando y actualizando sus funciones de seguridad infantil diseñadas para proteger a los niños, el último desarrollo en medio de crecientes informes sobre cómo su plataforma recomienda contenido sexual infantil.
Durante meses, The Wall Street Journal ha detallado cómo Instagram y Facebook ofrecieron a los usuarios contenido inapropiado y sexual relacionado con niños. En junio, un informe detalló cómo Instagram conectó una red de cuentas que traficaban con material de abuso sexual infantil (CSAM) y dirigió esas cuentas entre sí a través de su algoritmo de recomendación. Una investigación de seguimiento publicada hoy reveló cómo el problema se extendía a los grupos de Facebook, donde existía un ecosistema de cuentas y grupos de pedófilos, algunos con hasta 800.000 miembros.
En ambos casos, el sistema de recomendación de Meta permitió que las cuentas abusivas se encontraran entre sí a través de funciones como "Grupos que podrían interesarte" de Facebook o etiquetas de autocompletar en Instagram. Meta dijo hoy que limitará la forma en que las cuentas adultas "sospechosas" pueden interactuar entre sí: en Instagram, estas cuentas no podrán seguirse entre sí, no serán recomendadas y sus comentarios no serán visibles para otras cuentas "sospechosas".
Meta también dijo que amplió su lista de términos, frases y emojis relacionados con la seguridad infantil y comenzó a utilizar el aprendizaje automático para detectar conexiones entre diferentes términos de búsqueda.
Si bien los reguladores de EE. UU. y la UE presionaron a Meta sobre cómo garantizar la seguridad de los niños en la plataforma, Meta también publicó el informe anterior e hizo los ajustes correspondientes en materia de seguridad infantil. El director ejecutivo de Meta, Mark Zuckerberg, se unirá a otros grandes ejecutivos de la tecnología para testificar ante el Senado en enero de 2024 sobre la explotación infantil en línea. En noviembre, los reguladores de la UE dieron a Meta un plazo (que vence hoy) para proporcionar información sobre cómo protege a los menores; hoy emitieron nuevas solicitudes a Meta, específicamente denunciando "material autogenerado de abuso sexual infantil (SG-CSAM) que circula en Instagram" y el sistema de recomendación de la plataforma.
A finales de noviembre, las empresas de aplicaciones de citas Bumble and Match suspendieron la publicidad en Instagram tras un informe del Wall Street Journal. Los anuncios de ambas compañías aparecieron junto con videos de Reels de contenido explícito y agresiones sexuales a niños.