Resumen:
OpenAI recientemente pidió públicamente al gobierno británico que formule un marco regulatorio de inteligencia artificial legalmente vinculante y exija la implementación de reglas de seguridad obligatorias para los modelos de inteligencia artificial de vanguardia más avanzados. Esta declaración marca un nuevo cambio en la actitud de las principales empresas de IA del mundo hacia la supervisión y también avivó aún más el debate sobre la gobernanza de la inteligencia artificial en el Reino Unido.
Tom Duff Gordon, jefe de políticas para Europa, Medio Oriente y África de OpenAI, dijo en una entrevista que el gobierno británico debería tomar medidas inmediatas para establecer un sistema regulatorio de seguridad de inteligencia artificial más sólido. Cree que actualmente existe un raro "período de ventana política" y el Reino Unido debería aprovechar esta oportunidad para establecer requisitos de seguridad a largo plazo, estables y legalmente vinculantes para los sistemas de inteligencia artificial más avanzados a través de la legislación.
Según el concepto propuesto por OpenAI, el nuevo sistema regulatorio debería basarse en los compromisos voluntarios de las empresas existentes, pero ya no dependerá exclusivamente de la autodisciplina corporativa, sino que pasará a un marco legal aplicable. La empresa expresó su voluntad de aceptar tales limitaciones regulatorias y consideró que las empresas que desarrollan los modelos de inteligencia artificial más potentes deberían incluirse en un ámbito regulatorio más estricto en el futuro.
La postura surge en un momento en que los pedidos de una regulación más estricta de la inteligencia artificial están creciendo rápidamente en el Reino Unido. En los últimos meses, varias empresas líderes en inteligencia artificial han revelado sucesivamente incidentes de riesgo relacionados con la seguridad de los modelos, lo que ha provocado preocupaciones sociales y políticas. Al mismo tiempo, un investigador que trabajó anteriormente en Anthropic y OpenAI criticó públicamente recientemente la dirección de la industria después de dejar su trabajo, diciendo que algunas empresas están "apoyando por la vida de todos", intensificando aún más la atención del mundo exterior sobre los riesgos de la IA de vanguardia.
De hecho, en su plataforma electoral de 2024, el Partido Laborista británico prometió establecer un sistema regulatorio vinculante para un pequeño número de empresas que desarrollen los modelos de inteligencia artificial más potentes. Sin embargo, después de asumir el cargo, el gobierno abandonó gradualmente la línea de una legislación unificada a gran escala y en su lugar adoptó un modelo de gestión descentralizada por parte de los reguladores de la industria y pruebas voluntarias de seguridad por parte de las empresas. En la actualidad, el Instituto Británico de Investigación de Seguridad de Inteligencia Artificial realiza principalmente pruebas de modelos mediante la cooperación con empresas de tecnología y carece de poderes formales para hacer cumplir la ley.
OpenAI cree que depender únicamente de los modelos existentes ya no es suficiente para hacer frente a riesgos futuros. Duff Gordon dijo que si el Reino Unido establece un nuevo marco legal, lo alineará con la UE y algunos sistemas regulatorios emergentes en los Estados Unidos en el campo de la gobernanza de la inteligencia artificial. Señaló que Estados Unidos también está promoviendo un plan obligatorio de supervisión de la seguridad de la inteligencia artificial basado en los niveles de capacidad del modelo, y OpenAI también lo apoya.
Sin embargo, OpenAI también enfatizó que la nueva ley no debería cubrir toda la industria de la IA, sino que debería centrarse en una pequeña cantidad de laboratorios y modelos que estén verdaderamente a la vanguardia de la tecnología. La compañía cree que la atención regulatoria debería centrarse en la seguridad nacional, la ciberseguridad y los sistemas avanzados de inteligencia artificial que pueden conllevar riesgos sistémicos, en lugar de imponer el mismo nivel de restricciones a las empresas emergentes o a las aplicaciones generales de IA.
Según las recomendaciones de OpenAI, el futuro marco legal debería contener múltiples elementos centrales. Estos incluyen pruebas de seguridad obligatorias de modelos por parte de agencias independientes de terceros, revisión rigurosa de las capacidades de ciberseguridad y el establecimiento de un sistema de monitoreo y notificación de incidentes de seguridad. Una vez que ocurre un comportamiento anormal importante o un evento de riesgo en el modelo, la empresa desarrolladora debe informar a la agencia reguladora de acuerdo con las regulaciones.
OpenAI también recomienda que el Instituto Británico de Seguridad de la Inteligencia Artificial desempeñe un papel central en el futuro sistema regulatorio. La empresa cree que la organización ha acumulado una rica experiencia técnica y capacidades profesionales y es capaz de asumir responsabilidades clave como la evaluación de modelos, el establecimiento de estándares y la supervisión continua.
Además, OpenAI enfatiza que el diseño de reglas futuras debe ser flexible y adaptable. Dado que la tecnología de IA se está desarrollando a un ritmo extremadamente rápido, el marco regulatorio no debería adoptar un modelo rígido, sino que debería poder ajustarse de manera oportuna en función de los avances tecnológicos. Al mismo tiempo, el Reino Unido debería esforzarse por promover la compatibilidad de los estándares internacionales y sentar las bases para la formación de un consenso global sobre la gobernanza de la inteligencia artificial en el futuro.
Los analistas señalaron que esta declaración muestra que la industria de la inteligencia artificial está pasando gradualmente de "oponerse a la regulación" a "participar en la formulación de la regulación". A medida que las capacidades del modelo continúan mejorando y las disputas de seguridad continúan aumentando, cada vez más empresas líderes comienzan a aceptar la necesidad de restricciones legales. Sin embargo, cómo lograr un equilibrio entre la promoción de la innovación y el control de los riesgos seguirá siendo un desafío fundamental para los reguladores del Reino Unido y del resto del mundo en el futuro.
Comentarios