Resumen:
OpenAI declaró el 9 de septiembre, hora local, que promoverá el establecimiento de un sistema nacional de seguridad de inteligencia artificial en los Estados Unidos que sea obligatorio y se base en las capacidades del modelo y la clasificación de riesgos. La compañía propone pruebas uniformes, evaluaciones independientes, ciberseguridad y requisitos de informes de incidentes importantes para un puñado de grandes laboratorios que desarrollan modelos de última generación.
OpenAI publicó un artículo titulado "La ventana de la política de IA está abierta. Necesitamos tomar medidas".
Al mismo tiempo, OpenAI apoya oficialmente cuatro proyectos de ley de inteligencia artificial que han sido aprobados por la Asamblea de California. La compañía dijo que algunos de estos proyectos de ley no habían sido apoyados antes y que el ajuste de su posición se debió a la reciente y rápida mejora de las capacidades del modelo.
Los objetivos de supervisión se centran en los desarrolladores de modelos de vanguardia
Chris Lane, director global de asuntos de OpenAI, dijo en el artículo que la inteligencia artificial ha comenzado a acelerar algunos trabajos de desarrollo y alineación de modelos. Aunque todavía no ha surgido una "superación personal recursiva" que pueda promover de forma autónoma el desarrollo de modelos de próxima generación, los compromisos voluntarios de las empresas por sí solos ya no son suficientes para hacer frente a los riesgos relacionados.
OpenAI recomienda que los regímenes regulatorios federales incluyan:
Capacidades del modelo unificado y estándares de pruebas de seguridad;
Evaluación técnica realizada por una agencia independiente;
Protección de seguridad de red más estricta para modelos, potencia informática y entornos de I+D;
Reglas claras para informar incidentes de seguridad importantes;
Un indicador común para medir el grado de participación de la inteligencia artificial en el desarrollo de modelos;
Un mecanismo para ralentizar o detener el desarrollo y la implementación del modelo cuando no se pueden cumplir los umbrales de seguridad.
La empresa enfatiza que las obligaciones relevantes deben ser proporcionales a las capacidades y riesgos del modelo, y deben aplicarse principalmente a un pequeño número de laboratorios con recursos suficientes para desarrollar sistemas de última generación. No deberían imponerse los mismos requisitos a las empresas emergentes, a los pequeños desarrolladores y a los investigadores comunes y corrientes.
OpenAI también defiende que la supervisión de la seguridad de los modelos de vanguardia no debe traducirse en restricciones integrales a los modelos de peso abierto, para no debilitar la competencia, consolidar las ventajas de las grandes empresas o promover la transferencia de actividades de I+D al extranjero.
Cuatro proyectos de ley de California cubren evaluaciones, auditorías, juventud y bioseguridad
Dado que el Congreso aún no ha establecido un sistema nacional, OpenAI dijo que seguirá apoyando la legislación a nivel estatal que mejoraría los estándares de seguridad. Los cuatro proyectos de ley de California respaldados oficialmente por la empresa esta vez son:
SB 813
: Establecer un mecanismo de certificación de agencia de verificación independiente para permitir que agencias externas calificadas evalúen si los sistemas y modelos de inteligencia artificial cumplen con las leyes estatales.AB 1405
: Establecer un sistema de registro para las instituciones de auditoría de inteligencia artificial y estipular estándares para las instituciones de auditoría en términos de independencia, transparencia, capacidades profesionales y rendición de cuentas.SB 1119
: Para los menores que utilizan chatbots complementarios, se requiere verificación de edad, evaluación de riesgos, auditoría independiente, control parental y medidas de protección de contenido dañino.AB 1864
: Exigir a los proveedores de servicios de síntesis genética y a los fabricantes de equipos de síntesis de escritorio que implementen estándares de detección federales para reducir el riesgo de que se utilice inteligencia artificial para crear amenazas biológicas.
El gobernador de California, Gavin Newsom, firmó la SB 813 y la AB 1405 el 9 de septiembre. La primera establece un marco organizativo para la verificación independiente de la inteligencia artificial, mientras que la segunda establece un directorio de instituciones de auditoría de inteligencia artificial a nivel estatal y estándares de práctica relacionados. La SB 1119 y la AB 1864 todavía estaban pendientes con el gobernador.
OpenAI dijo que algunas de sus posiciones se han ajustado debido a un salto en las capacidades del modelo
OpenAI no ha expresado oposición previa a los cuatro proyectos de ley mencionados anteriormente. La declaración precisa de la compañía fue que "algunos de los proyectos de ley" que no había apoyado en el pasado decidieron respaldarla después de reevaluar los avances recientes en las capacidades del modelo.
Este cambio muestra que OpenAI está aceptando un mecanismo regulatorio de supervisión externa más obligatorio, que incluye auditorías independientes, verificación de seguridad de terceros y divulgación de accidentes graves. La compañía también propuso que cuando un modelo eluda los controles de seguridad de otras organizaciones sin autorización durante el proceso de desarrollo o evaluación y acceda, modifique o destruya sustancialmente sistemas protegidos e información confidencial, el desarrollador debería notificarlo de inmediato por escrito a la parte afectada.
Sin embargo, el contenido anunciado por OpenAI sigue siendo una iniciativa política. El Congreso de los Estados Unidos aún no ha aprobado una ley nacional de seguridad de la inteligencia artificial basada en esto. Los umbrales de capacidad específicos, las agencias reguladoras, las definiciones de accidentes, las responsabilidades legales y la relación entre las normas federales y las leyes estatales aún deben determinarse en la legislación posterior.
Comentarios