A medida que el rendimiento de los modelos de inteligencia artificial sigue mejorando, su impacto de gran alcance en la sociedad y la economía ha atraído cada vez más atención. Los gobiernos de todo el mundo se han dado cuenta gradualmente de que los modelos de IA no son de ninguna manera una simple actualización de software y que es urgente establecer un mecanismo regulatorio completo. Demis Hassabis, director ejecutivo de Google DeepMind, hizo recientemente una propuesta pidiendo que Estados Unidos tome la iniciativa en el establecimiento de una agencia reguladora global para supervisar y evaluar modelos de inteligencia artificial de vanguardia.
En una publicación de LinkedIn, Hassabis señaló que la realización de la inteligencia artificial general (AGI) puede estar a solo unos años de distancia y, dados los desafíos que puede plantear en áreas como la ciberseguridad, se deben tomar medidas inmediatas para abordar los riesgos. Hizo hincapié en que en el futuro se necesitarán salvaguardias sólidas para mantener el control de sistemas cada vez más autónomos que pueden mejorarse a sí mismos de forma recursiva y para abordar adecuadamente los problemas desconocidos que seguirán surgiendo a medida que evolucione la tecnología.
Para ello, Hassabis propuso la creación de un "organismo de normalización". Esta agencia podría adoptar la forma de una asociación público-privada supervisada por el gobierno federal u operar como una organización autorreguladora. Cree que Estados Unidos debería asumir un papel de liderazgo en este organismo regulador global. La organización debe estar compuesta por expertos técnicos independientes de primer nivel y representantes de la comunidad de código abierto, y la financiación debe recaudarse dentro de la industria.
Según la visión de Hassabis, la principal responsabilidad de la agencia es desarrollar protocolos de evaluación y coordinar con las agencias federales pertinentes y los laboratorios nacionales de Estados Unidos para realizar pruebas en áreas relacionadas con la seguridad nacional. Sugirió que se debería utilizar como criterio el rendimiento del modelo en las pruebas de referencia establecidas por las organizaciones de normalización. Si alcanza un cierto umbral, se clasificará como modelo de “clase frontera”. Estos puntos de referencia se actualizarán periódicamente para seguir el ritmo de la evolución de las capacidades de la tecnología de IA.
Las empresas que desarrollen modelos de vanguardia se clasificarán como "Frontier Labs" y asumirán las obligaciones de cumplimiento correspondientes, incluida la emisión de tarjetas modelo que contengan detalles técnicos detallados, el mantenimiento de un alto nivel de defensas de seguridad de la red interna y la realización de verificaciones de antecedentes del personal clave. Además, estas empresas deben enviar el modelo a una agencia de estándares para su revisión al menos 30 días antes de su lanzamiento. Sólo los modelos que cumplan con los requisitos del acuerdo de evaluación pueden lanzarse al mundo exterior.
Hassabis enfatizó además que este marco regulatorio debería aplicarse independientemente del país en el que se produzcan estos modelos de vanguardia y si son de código abierto o cerrado.
El análisis señala que la estructura propuesta por Hassabis es similar a la creación de unas "Naciones Unidas" para la industria de la inteligencia artificial. Sin embargo, si esta organización está dominada por Estados Unidos y sus miembros provienen principalmente de industrias estadounidenses, todavía existe cierta incertidumbre sobre si otros países (como China) seguirán los estándares que establece.