El nuevo consejo regulador de medios de Irlanda, Coimisiúnna Meán (Código de Seguridad en Línea), ha solicitado comentarios del público sobre el Código de Seguridad en Línea, la primera plataforma de servicio para compartir videos de Irlanda. El borrador del Código incluye una sugerencia de que las plataformas deberían considerar agregar una función para desactivar los algoritmos de recomendación basados ​​en perfiles de usuario de forma predeterminada.

Se esperan medidas de seguridad destinadas a responsabilizar legalmente a los proveedores de servicios de plataformas para compartir videos (VPSP) de mantener a las personas seguras en línea, como la adopción de una tecnología de verificación de edad más sólida y la prevención de la carga o el intercambio de contenido violento o que incite al odio. Las sugerencias de Coimisiúnna Meán (CnaM) sobre algoritmos de recomendación son quizás menos prometedoras. Dado que gigantes tecnológicos como Google, Microsoft, Apple, TikTok y Meta han hecho de Irlanda la sede de sus operaciones en la UE, los cambios propuestos podrían tener serias ramificaciones.

Las fuentes de recomendación o algoritmos de recomendación utilizan las preferencias del usuario, búsquedas o acciones anteriores y otros datos relevantes para recomendar contenido de vídeo que pueda ser de interés para el usuario. Todos hemos tenido esta experiencia: hiciste clic en un video de un gato porque tu amigo dijo que era lindo o divertido y, antes de que te dieras cuenta, YouTube recomendó cientos de videos similares que no querías ver.

Pero el objetivo del CnaM no son los vídeos de gatos. El sistema de recomendación también amplificará el contenido dañino en todas las plataformas. Es por eso que la Comisión adoptó un enfoque de "seguridad por diseño", exigiendo a los VPSP que "tomen medidas razonables, proporcionadas y efectivas, siempre que sea posible, para reducir el riesgo de daño (especialmente a los niños) causado por la forma en que los sistemas de recomendación agregan y entregan contenido a los usuarios". La conclusión es que los proveedores deben (la redacción utilizada en el Código) garantizar que los algoritmos de recomendación no expongan a los usuarios a contenido dañino.

Pero las obligaciones del VPSP no terminan ahí. Si los proyectos de códigos se adoptan "tal cual", tendrían que informar al comité sobre las acciones tomadas sobre los algoritmos recomendados anualmente, "o en otros intervalos que el comité determine"; por lo tanto, esencialmente se informa a pedido. Además, los proveedores "deberán desarrollar, publicar e implementar un plan de seguridad de sistemas recomendado que incluya medidas efectivas para reducir el riesgo de daño que puedan causar sus sistemas recomendados". Al desarrollar el plan de seguridad anterior, los VPSP deben considerar "al menos" si incluir una función que permita a los usuarios restablecer cualquier algoritmo de creación de perfiles "para que funcionen igual que los nuevos usuarios", o si incluir una función que garantice que los algoritmos de recomendación basados ​​en perfiles estén desactivados de forma predeterminada.

La CnaM tiene la intención de realizar consultas separadas sobre estas cuestiones, que han sido planteadas como preocupaciones por las partes interesadas en el desarrollo del Código de Seguridad Cibernética. No planean incluir medidas de cambio de algoritmo en el primer Código.

Volver a los vídeos de gatos. En 2022, los investigadores de Mozilla analizaron siete meses de actividad de YouTube de más de 20.000 participantes y descubrieron que un solo vídeo rechazado generaba un promedio de 115 malas recomendaciones que eran muy similares a los vídeos que los usuarios le decían a la plataforma que no querían ver.

¿Quiere que el algoritmo no le proporcione recomendaciones "adecuadas para usted"? La fecha límite para recibir comentarios del público sobre todos los aspectos del Código de Seguridad Cibernética, incluidas las recomendaciones de algoritmos de CnaM, es el 19 de enero de 2024.

El borrador del Código y el documento de consulta están disponibles aquí (PDF):

https://www.cnam.ie/wp-content/uploads/2023/12/Draft_Online_Safety_Code_Consultation_Document_Final.pdf