Después de que el presidente estadounidense Biden firmara la primera orden ejecutiva sobre regulación de la inteligencia artificial en octubre de este año, la administración Biden dijo el martes, hora del Este, que está dando el primer paso para redactar normas y orientaciones clave para el despliegue seguro de la inteligencia artificial generativa y cómo probar y proteger los sistemas.
A finales de octubre de este año, el presidente estadounidense Biden firmó una orden ejecutiva "histórica", lanzando las primeras regulaciones regulatorias de la Casa Blanca sobre inteligencia artificial generativa. Según la orden ejecutiva, varias agencias gubernamentales estadounidenses deben desarrollar estándares para prevenir riesgos químicos, biológicos, radiológicos, nucleares y de ciberseguridad causados por la inteligencia artificial.
El martes, hora del Este, el Instituto Nacional de Estándares y Tecnología (NIST) del Departamento de Comercio de EE. UU. dijo que solicitaría opiniones de las empresas de inteligencia artificial y del público antes del 2 de febrero para realizar pruebas críticas de IA que son fundamentales para garantizar la seguridad de los sistemas de inteligencia artificial.
El NIST afirma que está desarrollando pautas para evaluar y probar la inteligencia artificial, promover el desarrollo de estándares de la industria de la inteligencia artificial y proporcionar un entorno de prueba para evaluar los sistemas de inteligencia artificial.
La secretaria de Comercio de Estados Unidos, Gina Raimondo, dijo que la última iniciativa del NIST fue impulsada por la orden ejecutiva de Biden de octubre para desarrollar “estándares industriales en torno a la seguridad y la confianza en la inteligencia artificial para que Estados Unidos pueda continuar liderando el mundo en el desarrollo y uso responsable de esta tecnología en rápida evolución”.
La guía de pruebas que el NIST está desarrollando incluye las llamadas pruebas del "equipo rojo": el NIST considerará dónde las pruebas del "equipo rojo" son más beneficiosas para la evaluación y gestión de riesgos de la inteligencia artificial y desarrollará las mejores prácticas para este propósito.
Las pruebas del "equipo rojo" son un paso importante en las pruebas de seguridad de la red. Se refiere a la simulación de adversarios del mundo real por parte de un equipo de expertos para probar y mejorar la seguridad del sistema.
En agosto de este año, Estados Unidos llevó a cabo públicamente por primera vez una actividad de prueba del "equipo rojo" de inteligencia artificial durante una importante conferencia sobre ciberseguridad. En el evento participan principalmente organizaciones de la industria de la IA AIVillage, SeedAI, Humane Intelligence, etc.
La Casa Blanca dijo que en el evento de agosto, miles de participantes probaron si "podían hacer que estos sistemas produjeran resultados no deseados o fallaran de otra manera, con el objetivo de comprender mejor los riesgos que plantean estos sistemas". El evento "demostró cómo los equipos rojos externos pueden ser una herramienta eficaz para identificar nuevos riesgos de IA".