El New York Times informó que investigadores del Instituto Británico de Seguridad de IA (AISI, anteriormente AI Safety Institute) probarán modelos de IA de vanguardia para encontrar vulnerabilidades de seguridad y límites de riesgo, y otros gobiernos están copiando este enfoque.
En los últimos años, la regulación de la IA a menudo se ha detenido en las palabras transparencia, responsabilidad, principios, gestión de riesgos y compromisos voluntarios. Ahora la pregunta es más específica: ¿ayudará un modelo a los piratas informáticos antes de su lanzamiento? ¿Rebajará el umbral para la fabricación de sustancias peligrosas? ¿Eludirá las restricciones de seguridad en escenarios críticos?
Ésta es una pregunta que las empresas no pueden responder solas. Las empresas pueden realizar pruebas de equipo rojo y publicar informes de seguridad, pero si el gobierno no tiene sus propias capacidades de evaluación, sólo puede emitir juicios entre conferencias de prensa, artículos y compromisos corporativos. El valor del Instituto Británico de Investigación de Seguridad de IA radica en la inclusión del gobierno en el proceso de prueba.
Este modelo ha comenzado a extenderse a la cooperación internacional. El gobierno británico anunció el 25 de mayo que el Instituto Británico de Seguridad de IA cooperará con el Instituto Australiano de Seguridad de IA para rastrear los riesgos de IA de vanguardia, incluido cómo se utilizan los sistemas de IA para ataques cibernéticos y cómo se pueden utilizar para fortalecer las defensas. El anuncio también mencionó que las dos partes compartirán conocimientos sobre las capacidades de la IA, realizarán investigaciones sobre riesgos emergentes y promoverán las mejores prácticas internacionales en pruebas y evaluación de la IA.
Estados Unidos también va en una dirección similar. El Centro de Estándares e Innovación de IA (CAISI) del Departamento de Comercio de EE. UU. llegó recientemente a un acuerdo con Google DeepMind, Microsoft y xAI para realizar evaluaciones relacionadas con la seguridad nacional antes de que el modelo se publique. Microsoft también anunció el establecimiento de una cooperación con el CAISI estadounidense y el AISI británico al mismo tiempo para probar modelos de vanguardia, evaluar la protección de la seguridad y reducir los riesgos para la seguridad nacional y la seguridad pública a gran escala.
Esto significa que las empresas modelo de vanguardia no sólo se enfrentarán a la competencia del mercado en el futuro, sino también a un proceso que se parece cada vez más a una "evaluación de seguridad previa al lanzamiento". En marcos de cooperación como los del Reino Unido y los Estados Unidos, cuanto más fuertes sean las capacidades del modelo, más probable será que las empresas necesiten proporcionar más materiales y derechos de acceso a las agencias de pruebas gubernamentales. Para las empresas emergentes, si las adquisiciones gubernamentales, las adquisiciones corporativas o el cumplimiento transfronterizo se referirán más a este tipo de evaluación en el futuro, las capacidades de prueba de seguridad se convertirán en parte de la competencia de productos.
En el futuro, la supervisión de la IA ya no se limitará a preguntar "¿Ha escrito la empresa un compromiso de seguridad?" pero empezará a preguntar "¿Alguien realmente lo ha probado?" Esto es más problemático que una declaración de principios y más cercano a la realidad.