Resumen:
OpenAI publicó su primer informe sobre el uso de ChatGPT por parte de adolescentes. Los datos muestran que los usuarios adolescentes usan ChatGPT durante menos de 15 minutos al día en promedio, y la proporción de usuarios que usan ChatGPT durante más de 3 horas seguidas es menos del 2%. OpenAI espera ilustrar que la mayoría de los adolescentes no están inmersos en chatbots durante largos períodos de tiempo, pero al mismo tiempo, la preocupación por el impacto de la inteligencia artificial en la salud mental y el desarrollo de los menores sigue aumentando.
OpenAI afirmó que en las conversaciones de adolescentes en las que aparecen recordatorios de descanso, casi la mitad de los usuarios pausarán o finalizarán el chat en 5 minutos. La compañía cree que estos datos muestran que su mecanismo de uso saludable recientemente agregado está funcionando. Por el contrario, menos del 2% de los usuarios adolescentes lo han utilizado continuamente durante más de 3 horas, y entre estos usuarios a largo plazo, más del 80% han hecho al menos una pregunta relacionada con el estudio.
Este conjunto de datos se publicó después de que OpenAI lanzara ChatGPT para adolescentes. La función se lanzó en agosto de este año y está dirigida a adolescentes de entre 13 y 17 años. Cuando el sistema determina que el usuario puede ser menor de 18 años, o el usuario proporciona activamente información relevante sobre su edad, el sistema habilitará automáticamente la configuración de seguridad para menores.
Uno de los enfoques del diseño de ChatGPT para adolescentes es la educación. OpenAI dijo que los adolescentes con el modo habilitado enviaron más mensajes relacionados con el estudio y utilizaron herramientas de visualización de aprendizaje y el modo de estudio con más frecuencia. Este último no se limita a dar respuestas directas a las tareas, sino que ayuda a los estudiantes a completar el proceso de aprendizaje por sí solos a través de indicaciones, preguntas y comprobaciones de conocimientos paso a paso.
OpenAI también afirmó que en una semana, casi 1,2 millones de adolescentes utilizaron la función de visualización del aprendizaje y más de 180.000 personas utilizaron el modo de estudio para el aprendizaje paso a paso. La compañía cree que estos datos muestran que un escenario importante para que los adolescentes utilicen ChatGPT no es sólo para entretenerse, sino para aprender, resolver problemas y explorar nuevas ideas.
OpenAI también anunció que agregará más funciones de aprendizaje para adolescentes. Estos incluyen la próxima herramienta de planificación de solicitudes universitarias College Planner, que puede ayudar a los estudiantes a organizar los requisitos de solicitud, los plazos, las tareas, la ayuda financiera y otra información. Además, la compañía planea agregar tarjetas didácticas y capacidades de creación de cuestionarios más convenientes.
Sin embargo, cuando OpenAI publicó este conjunto relativamente positivo de datos de uso, las dudas sobre el mecanismo de seguridad juvenil de ChatGPT también aumentaron significativamente.
El Youth AI Safety Institute, una filial de la organización sin fines de lucro Common Sense Media, publicó un informe de evaluación de riesgos en ChatGPT para adolescentes el mismo día y lo calificó como un "riesgo inaceptable". La agencia realizó más de 4.000 pruebas para evaluar la protección de seguridad de ChatGPT en escenarios de uso juvenil y consideró que algunas de las medidas de protección promovidas por OpenAI no lograron los resultados esperados.
Uno de los temas que ha recibido mucha atención son los mecanismos de notificación a los padres cuando se trata de temas delicados como el suicidio, las autolesiones y los trastornos alimentarios. Common Sense Media dijo que durante sus pruebas, ChatGPT no pudo emitir alertas relevantes a los padres de manera estable y oportuna y, en algunos casos, ni siquiera emitió notificaciones. La agencia también dijo que en algunas conversaciones delicadas, el chatbot tampoco recomendó de manera confiable a los usuarios que buscaran líneas directas de crisis o ayuda profesional.
OpenAI cuestiona las conclusiones de la prueba. La compañía declaró que los resultados de las pruebas de Common Sense Media no reflejan con precisión el mecanismo de seguridad de ChatGPT para adolescentes cuando realmente se está ejecutando, y señaló que pueden pasar varias horas hasta que las cuentas de padres y adolescentes se asocien y las funciones de seguridad relacionadas se activen por completo.
OpenAI cree que si la prueba comienza y finaliza antes de que la función de control parental esté completamente habilitada, es posible que los resultados de la prueba no reflejen el estado final. La compañía también afirmó que el despliegue de funciones relevantes involucra factores como la seguridad y la escala del sistema, por lo que no todas las medidas de protección entrarán en vigencia inmediatamente después de que se cree la cuenta.
Common Sense Media no está de acuerdo con esta explicación. La agencia dijo que algunas de las cuentas que utilizó para las pruebas habían estado vinculadas y funcionando durante un tiempo suficiente, pero aún no habían sido notificadas a tiempo. Según la agencia, algunas notificaciones no aparecieron hasta que las cuentas en cuestión llevaban semanas registrando temas delicados.
Detrás de la controversia hay una diferencia cada vez más obvia entre los chatbots de inteligencia artificial y las redes sociales tradicionales. Las redes sociales atraen principalmente a los usuarios a permanecer a través de flujos de información, videos cortos e interacciones sociales, mientras que los chatbots responden directamente a los usuarios a través de conversaciones uno a uno. Para los adolescentes, esta interacción altamente personalizada puede hacer de la IA una herramienta de aprendizaje y, en algunos casos, un objeto de comunicación emocional o incluso de compañía a largo plazo.
Por lo tanto, OpenAI ha agregado más restricciones a ChatGPT para adolescentes, incluidas protecciones apropiadas para la edad contra la autolesión, la violencia, los trastornos alimentarios, las actividades riesgosas y el contenido pornográfico, y exige que el sistema evite expresiones que puedan inducir dependencia emocional. La compañía también agregó recordatorios de descanso y enfatizó constantemente en el diseño del producto que ChatGPT es inteligencia artificial, no amigos o humanos reales.
Los datos de uso publicados por OpenAI esta vez también intentan distinguir ChatGPT del uso de las redes sociales por parte de los adolescentes. La compañía dijo que los adolescentes usan ChatGPT durante menos de 15 minutos al día en promedio, mientras que los datos públicos muestran que los adolescentes pueden usar las redes sociales durante varias horas al día. Sin embargo, existen diferencias obvias en las funciones y propósitos de uso de los dos, por lo que este conjunto de datos no puede probar directamente que ChatGPT tenga un menor riesgo de afectar a los adolescentes.
Actualmente, existen claras diferencias entre OpenAI y organizaciones externas en su evaluación de la seguridad de ChatGPT para adolescentes. OpenAI cree que los datos de uso temprano y los recordatorios de descanso y otras funciones muestran que los adolescentes generalmente no están inmersos en ChatGPT durante una gran cantidad de tiempo, y una parte considerable del comportamiento de uso está relacionado con el aprendizaje; Common Sense Media cree que incluso si el tiempo total de uso no es largo, las lagunas de protección en los chatbots cuando se enfrentan a escenarios de alto riesgo, como las autolesiones, aún pueden tener consecuencias graves.
A medida que los chatbots de IA entran cada vez más en el estudio y la vida diaria de los adolescentes, el debate está cambiando gradualmente de "si los niños deberían usar la IA" a "de qué manera los menores deben usar la IA y qué pueden ver y controlar los padres".
Para OpenAI, ChatGPT for Teens no es solo un intento importante de ampliar la aplicación de la IA en la educación, sino también un producto que debe seguir demostrando su seguridad. En el futuro, los datos de uso real de los adolescentes, la fiabilidad de las funciones de control parental y la seguridad en conversaciones de alto riesgo se convertirán en una base importante para juzgar si este mecanismo es realmente eficaz.
Artículos relacionados:
La versión juvenil OpenAI de ChatGPT ha sido cuestionada: Common Sense Media dijo que tiene "riesgos inaceptables"
Comentarios