Resumen:
Ante el impacto potencial de la inteligencia artificial generativa en la salud mental de los menores y el riesgo de adicción, el gobernador de California, Gavin Newsom, firmó oficialmente un conjunto de proyectos de ley innovadores en materia de seguridad de redes e inteligencia artificial. Este paquete de regulaciones es el primero en los Estados Unidos que establece estrictas líneas rojas funcionales para los chatbots de IA que brindan servicios a menores. También mejora integralmente el mecanismo de responsabilidad legal para la inducción de algoritmos de plataformas sociales y la recopilación de datos, lo que marca que California ha establecido una vez más el punto de referencia regulatorio más estricto en los Estados Unidos en la protección de menores de tecnologías digitales altamente intrusivas.
En los últimos años, con la explosiva popularidad de los compañeros de IA, la tutoría virtual y los chatbots de juegos de rol con capacidades de interacción antropomórfica, el fenómeno del "apego emocional antropomórfico" entre los jóvenes a los sistemas de inteligencia artificial ha desencadenado profundas preocupaciones en los círculos médicos y educativos. Múltiples encuestas de salud mental han demostrado que, debido a la falta de defensa mental, los menores pueden considerar fácilmente a los modelos de IA como verdaderos confidentes que pueden guardar secretos y enfrentar traumas psicológicos graves, como inducción de información dañina, mayores tendencias a autolesionarse e incluso manipulación emocional durante el proceso de interacción. El proyecto de ley principal presentado esta vez por la Legislatura de California apunta precisamente a este tipo de servicios interactivos de inteligencia artificial con alta adherencia y características antropomórficas.
Según el proyecto de ley recién firmado, las plataformas de chatbot de inteligencia artificial que operan para menores deben establecer umbrales de edad estrictos y barreras de seguridad. Las regulaciones prohíben claramente que la IA envíe comentarios instructivos a menores que impliquen autolesiones, suicidio, anorexia extrema, violencia o contenido explícito para adultos; En términos de la lógica subyacente del sistema, la plataforma debe tener protocolos integrados de intervención en crisis y control de riesgos de palabras sensibles. Una vez que el algoritmo detecta que un usuario menor de edad expresa depresión, autolesión o desesperación, se debe interrumpir inmediatamente el diálogo habitual y se debe forzar la aparición de un canal directo a la línea directa oficial de intervención suicida y asistencia en crisis psicológica. Además, la nueva ley también exige que los desarrolladores revelen explícitamente los atributos no humanos de la IA a usuarios menores de edad. Está estrictamente prohibido utilizar algoritmos para crear deliberadamente una inducción emocional falsa o establecer una retórica de marketing de "vínculos emocionales" que haga que los niños se sientan dependientes. También establece mecanismos opcionales de control parental y restricciones antiadicción nocturnas para el tiempo de uso diario de los menores.
Además de las regulaciones especiales para los chatbots de IA, el paquete de legislación firmado por Newsom también fortalece aún más el marco de protección de la privacidad en línea existente para menores en California. Las nuevas regulaciones prohíben explícitamente que las principales redes sociales y plataformas de contenido en línea utilicen la información de ubicación precisa, la duración de la navegación y el historial de búsqueda privado de usuarios menores de edad para entrenar algoritmos de recomendación específicos y adictivos sin el consentimiento explícito del tutor; Para las prácticas comerciales que utilizan patrones oscuros para inducir a los niños a actualizar continuamente el flujo de información, iniciar la reproducción continua automática o inducir microtransacciones no autorizadas en los juegos, las autoridades reguladoras impondrán sanciones económicas y administrativas severas y facultarán al fiscal general del estado para iniciar demandas civiles contra las empresas de tecnología infractoras que persistan en la reforma.
En la declaración de firma del proyecto de ley, muchos legisladores de California y grupos de defensa de los derechos del niño que lideran la legislación señalaron que, para combatir el tráfico y la rigidez de los usuarios, las plataformas tecnológicas han colocado durante mucho tiempo a los menores inmaduros en un crisol digital lleno de riesgos de adicción y manipulación psicológica. Como motor central de la innovación tecnológica global, California no debe hacer la vista gorda ante los costos de salud mental de los niños provocados por el crecimiento desenfrenado de la tecnología. Aprobar legislación para establecer límites morales y de seguridad claros para los chatbots de IA no es solo una medida urgente para proteger la salud física y mental de la próxima generación, sino también una limitación fundamental para que las empresas de tecnología cumplan con sus responsabilidades sociales.
La industria tecnológica y los analistas legales digitales señalaron que, dado el enorme tamaño de California en la economía digital global y el efecto de aglomeración de las principales empresas de tecnología en Silicon Valley, el lote de proyectos de ley menores de protección de Internet y la IA aprobados por California producirán inevitablemente un “efecto Bruselas” y un “efecto California” transregionales. Debido al costo extremadamente alto de desarrollar versiones separadas para usuarios en un solo estado en términos de arquitectura técnica, es muy probable que las empresas multinacionales de tecnología y los laboratorios de inteligencia artificial de vanguardia se vean obligados a expandir directamente este conjunto de estrictos filtros de seguridad infantil y protocolos anti-adicción al ecosistema de usuarios en los Estados Unidos e incluso en el mundo. La entrada en vigor de esta serie de proyectos de ley no solo indica que los costos de cumplimiento de los compañeros de IA y las herramientas sociales para adolescentes aumentarán significativamente, sino que también proporcionará a otros estados de los Estados Unidos un plan legislativo de gran valor práctico a la hora de abordar la crisis de salud física y mental de los menores en la era de la IA.
Comentarios