Las imágenes generadas por inteligencia artificial y otras formas de deepfakes que representan abuso sexual infantil (ASI) podrían penalizarse en la UE, anunció hoy la Comisión Europea, en el marco de sus planes para actualizar la legislación existente para seguir el ritmo de los avances tecnológicos. La UE también ha propuesto convertir la transmisión en vivo de abuso sexual infantil en un nuevo delito penal. La posesión y el intercambio de "manuales de pedófilos" también se penalizarán según el plan, que según la UE forma parte de un paquete más amplio de medidas destinadas a fortalecer la prevención del abuso sexual infantil, incluida la sensibilización sobre los riesgos en línea y facilitar que las víctimas denuncien delitos y accedan a apoyo (incluido darles el derecho a una compensación financiera).
Las normas actuales de la UE en este ámbito se remontan a 2011, y las propuestas para actualizarlas también incluyen cambios en la notificación obligatoria de infracciones.
En mayo de 2022, la Comisión presentó un proyecto separado de legislación relacionada con la CSA destinado a establecer un marco bajo el cual los servicios digitales deben utilizar tecnología automatizada para detectar y denunciar material de abuso sexual infantil (CSAM) existente o nuevo que circule en sus plataformas, y para identificar y denunciar la manipulación infantil.
El esquema de escaneo CSAM ha demostrado ser extremadamente controvertido: continúa dividiendo a los legisladores en el Parlamento y el Consejo de la UE, al mismo tiempo que genera sospechas sobre la relación entre la Comisión Europea y los lobbystas de tecnología de seguridad infantil y plantea otras preguntas embarazosas para el ejecutivo de la UE, como la campaña publicitaria legalmente cuestionable microdirigida utilizada para promover la propuesta.
La decisión de la Comisión Europea de priorizar las plataformas de información digital para abordar la CSA ha generado críticas de que los legisladores de la UE se están centrando en áreas equivocadas al abordar esta compleja cuestión social, lo que puede haber creado cierta presión para que la Comisión haga recomendaciones de seguimiento. (Por supuesto, la Comisión Europea no dijo eso y calificó el paquete de hoy como un "complemento" a su propuesta anterior de escaneo CSAM).
Aún así, incluso en los menos de dos años transcurridos desde que se propuso el controvertido programa de escaneo de información privada, las preocupaciones sobre los riesgos de los deepfakes y las imágenes generadas por IA han aumentado significativamente, incluida la preocupación de que la tecnología podría usarse indebidamente para producir CSAM y la preocupación de que dicho contenido sintético haría más difícil para las fuerzas del orden identificar a las víctimas reales. Así que el auge viral de la tecnología generada por IA está claramente impulsando a los legisladores a revisar las reglas.
"El aumento del número de niños en línea y el desarrollo de la tecnología han creado nuevas posibilidades de abuso", dijo hoy el comité en un comunicado de prensa. El comité también dijo que la propuesta tenía como objetivo "reducir la impunidad que prevalece en el abuso sexual y la explotación de niños en línea".
El comité llevó a cabo una evaluación de impacto antes de presentar la propuesta y concluyó que el aumento en el número de niños en línea y "los últimos avances tecnológicos" habían creado nuevas oportunidades para que se produjera la CSA. La Comisión también dijo que le preocupaba que las diferencias en los marcos legales de los estados miembros pudieran obstaculizar la acción para combatir el abuso y quería mejorar los esfuerzos "limitados" actuales para prevenir la ASI y ayudar a las víctimas.
En una declaración de apoyo, la Comisaria de Asuntos Internos, Ylva Johansson, añadió: "Las tecnologías en rápida evolución están creando nuevas posibilidades para el abuso sexual infantil en línea y creando desafíos para las fuerzas del orden que investigan este delito extremadamente grave y generalizado. Es esencial una legislación penal sólida y hoy damos un paso crucial para garantizar que contamos con herramientas legales efectivas para salvar a los niños y llevar a los perpetradores ante la justicia. Estamos cumpliendo los compromisos que asumimos en la Estrategia de la UE para combatir el abuso sexual infantil de manera más efectiva, presentada en julio de 2020".
En cuanto a los riesgos de seguridad en línea para los niños, la propuesta de la Comisión pretende animar a los Estados miembros a invertir más en "sensibilización".
Al igual que con el programa de escaneo CSAM, los colegisladores del Parlamento y el Consejo de la UE decidirán la forma final de la propuesta. Hay tiempo limitado para las negociaciones antes de las elecciones parlamentarias y el reinicio del comité de comisionados a finales de este año, aunque es probable que las propuestas enérgicas de hoy de la CSA sean menos divisivas que el plan de escaneo de información. Así que existe la posibilidad de que este plan se apruebe mientras otro plan se estanca.
Según la Comisión Europea, si/una vez que haya acuerdo sobre cómo modificar la directiva actual para combatir la CSA, la directiva entrará en vigor 20 días después de su publicación en el Diario Oficial de la Unión Europea.