Resumen:
Microsoft anunció nuevos estándares de privacidad y seguridad de inteligencia artificial escolar con la Federación Estadounidense de Maestros (AFT) y su filial de la ciudad de Nueva York, el Sindicato de Maestros de la Ciudad de Nueva York (UFT). Según el acuerdo, los distritos escolares que adopten los estándares pueden incluir disposiciones en sus contratos que los harán legalmente vinculantes, incluido el no utilizar datos de estudiantes o educadores para entrenar modelos de IA, minimizar la recopilación de datos, proporcionar un lenguaje sencillo a las familias sobre cómo funcionan las herramientas, prohibir el despliegue de productos complementarios de IA e implementar la revisión humana de decisiones de "alto riesgo".
No mucho antes de que se introdujera este acuerdo, dos importantes distritos escolares públicos de la ciudad de Nueva York y Los Ángeles anunciaron que prohibirían temporalmente las herramientas de inteligencia artificial para muchos estudiantes durante un año con el fin de evaluar el uso razonable de dichas herramientas en el campus y las medidas de protección de seguridad necesarias. A medida que aumentan las preocupaciones entre los padres y algunos educadores sobre la introducción de la IA en las escuelas y el aumento del tiempo de pantalla de los estudiantes, Microsoft aparentemente espera reducir la posibilidad de un mayor endurecimiento de las políticas por parte de los distritos escolares a través de nuevas reglas vinculantes.
A partir de noviembre, los distritos escolares tendrán la opción de agregar estos términos a acuerdos de asociación de Microsoft nuevos o existentes sin tener que renegociar el contrato completo. Uno de los requisitos básicos del acuerdo es que Microsoft no debe utilizar datos de estudiantes y profesores para la formación de modelos; Al mismo tiempo, la empresa debe limitar la cantidad de datos sin procesar recopilados y explicar claramente a las familias de los estudiantes cómo sus productos de IA procesan y utilizan la información relevante.
La Federación Estadounidense de Maestros ha sido durante mucho tiempo cautelosa respecto de la introducción de tecnología educativa en las escuelas, pero no ha rechazado por completo la cooperación con empresas de tecnología para ayudar a los educadores a hacer frente al rápido desarrollo de la IA. Randy Weingarten, presidente de la organización, argumentó en mayo que los dispositivos con pantalla deberían prohibirse para los estudiantes menores de tercer grado y que las herramientas de inteligencia artificial para los estudiantes no deberían usarse hasta la escuela secundaria. Sin embargo, la AFT también anunció previamente el establecimiento de un centro de formación en IA para educadores, y recibió un total de 23 millones de dólares en financiación de Anthropic, Microsoft y OpenAI.
Al hablar del acuerdo con Microsoft, Weingarten dijo que los términos eran "sólidos como una roca" y necesarios porque "ninguna otra agencia, incluido el gobierno federal, dio un paso adelante para hacer el trabajo que realmente se necesitaba hacer". Ella cree que frente a los riesgos causados por la IA en los campus, el sector educativo no puede simplemente expresar su insatisfacción, sino que debe tomar medidas decisivas; cualquier compromiso que carezca de aplicabilidad legal es sólo una "lista de deseos".
Comentarios