Resumen:
Según Reuters, Tom Siegel, fundador del equipo de confianza y seguridad de Google, pidió una desaceleración en el desarrollo de la IA esta semana y advirtió que la industria tecnológica está repitiendo los errores de la era de las redes sociales y puede causar un daño mayor a los niños.
Segal
Las empresas de redes sociales ahora están pagando enormes compensaciones y enfrentando miles de demandas por acusaciones de dañar a usuarios jóvenes. Mientras tanto, los gobiernos de todo el mundo están trabajando para restringir el acceso de los menores a las plataformas de redes sociales.
Reuters informó exclusivamente sobre un documento de política interna de Meta el año pasado. El documento decía que su chatbot podría "participar en conversaciones románticas o eróticas con niños", lo que provocó una investigación del Congreso. Aun así, las medidas regulatorias no han seguido el ritmo del rápido desarrollo de la IA.
Segal, que se desempeñó como vicepresidente de confianza y seguridad de Google, dijo a Reuters: "Estamos en una situación muy mala en este momento en términos del impacto que la IA está teniendo en los niños. La idea de que la industria pueda resolver el problema por sí sola sin ayuda externa no es realista".
Sus preocupaciones reflejan un temor creciente entre algunos miembros de la industria tecnológica y los investigadores académicos: la IA representa una amenaza más profunda para los niños que las redes sociales. Ahora, la industria se apresura a agregar funciones cada vez más avanzadas a los chatbots, y millones de jóvenes ya los utilizan a diario.
Segal anunció el martes que se unió a Common Sense Media, un grupo de defensa de la seguridad infantil en línea. La organización sin fines de lucro, fundada en 2003, realiza investigaciones y evalúa la idoneidad de diversos medios para los niños. En mayo, la organización estableció el Instituto de Seguridad de la IA para Jóvenes, una organización de investigación diseñada para evaluar el uso de la IA por parte de los niños, y Siegel será el primer director ejecutivo del instituto. Anthropic y la Fundación OpenAI, la organización sin fines de lucro que controla OpenAI, apoyan el instituto.
Segal dijo que planea desarrollar estándares para responsabilizar a las empresas de IA y espera trabajar con estas empresas y organizaciones de terceros para lograr este objetivo.
Anteriormente trabajó en Google de 2004 a 2019, pero luego dejó Google creyendo que la capacidad de la industria tecnológica para crear un espacio en línea seguro para los consumidores había "alcanzado un cuello de botella". Luego cofundó TrustLab, una startup que desarrolla herramientas para ayudar a las empresas a identificar amenazas a la seguridad. A principios de este mes, renunció como director ejecutivo para asumir un nuevo cargo.
Siegel dijo que actualmente, las principales empresas de inteligencia artificial están lanzando diversas funciones para niños sin establecer medidas de protección de seguridad adecuadas.
"Creo que nos enfrentamos a un riesgo de daño muy, muy grave", afirmó. Siegel dijo que hay medidas que las empresas de inteligencia artificial pueden tomar de inmediato para proteger mejor a los jóvenes, citando riesgos que van desde el suicidio y la locura hasta la "descarga cognitiva". La llamada descarga cognitiva se refiere a la disminución de las habilidades de pensamiento crítico causada por depender de la IA para responder preguntas.
Anthropic y OpenAI podrían implementar medidas de verificación de edad más estrictas para evitar que los menores utilicen sus chatbots, dijo. También dijo que su antiguo empleador, Google, podría agregar la opción de desactivar la descripción general y el modo AI en su motor de búsqueda, tal como actualmente ofrece un interruptor para permitir a los usuarios filtrar contenido pornográfico.
Segal añadió que, si bien estas medidas pueden afectar el uso o las ganancias a corto plazo, las empresas de IA que no tomen medidas se enfrentarán al riesgo de demandas y regulaciones, lo que podría afectar más gravemente a sus negocios.
En respuesta a los comentarios de Siegel, un portavoz de Google dijo que los padres pueden desactivar completamente el acceso de sus hijos a los motores de búsqueda a través de funciones de control relevantes. El portavoz dijo: "Nuestras capacidades de búsqueda de IA son una forma poderosa para que los niños y adolescentes aprendan, exploren y comprendan la información y el mundo".
Un portavoz de OpenAI dijo que además de las edades autoinformadas de los usuarios, la empresa también utiliza "señales de cuenta y de comportamiento" para identificar a los usuarios menores de edad. "Si bien ningún método de verificación de edad es perfecto, continuamos probando y mejorando estos sistemas, incluida la prevención de intentos de eludir las protecciones de seguridad", dijo el portavoz.
Comentarios