Resumen:
OpenAI insta a Estados Unidos a tomar la iniciativa en el desarrollo de estándares para inteligencia artificial (IA) de vanguardia con otros países en respuesta a las crecientes preocupaciones sobre el daño potencial de la IA. OpenAI dijo en una publicación de blog el lunes que para desarrollar inteligencia artificial de manera segura, es necesario desarrollar estándares técnicos internacionales, especialmente para ayudar a definir qué tipos de incidentes que involucran modelos de IA deben notificarse, para aclarar cómo los países pueden cooperar en el desarrollo de la IA y para mejorar el acceso a la potencia informática necesaria para desarrollar dichas tecnologías.
“Para que el progreso continuo en la IA sea seguro y beneficioso, es necesario avanzar en la investigación alineada y desarrollar estándares comunes para proporcionar orientación para el desarrollo de la IA en laboratorios y países”, afirmó OpenAI.
OpenAI dijo que su director ejecutivo, Sam Altman, planea hablar ante el Consejo de Seguridad de las Naciones Unidas el miércoles sobre la IA y cuestiones de seguridad internacional.
EE.UU. El secretario del Tesoro, Bessent, dijo el fin de semana pasado que Estados Unidos propuso establecer un mecanismo de presentación de informes para cubrir los incidentes de IA con implicaciones para la seguridad nacional.
OpenAI enfatizó en una publicación de blog que los países deberían trabajar juntos para desarrollar estándares nacionales e internacionales complementarios para desarrollar los modelos de IA más capaces. OpenAI sugiere que este trabajo puede promoverse a través de agencias de seguridad de IA existentes en varios países, incluido el Centro de Estándares e Innovación de IA (CAISI) del Departamento de Comercio de EE. UU., que ayuda a probar modelos de IA y desarrollar directrices relevantes.
OpenAI también pidió el desarrollo de estándares para abordar la creciente capacidad de la IA para trabajar de forma autónoma, señalando que la automejora recursiva "completamente autónoma" - donde la IA es finalmente capaz de modificar su propio código o mejorar sus capacidades sin ninguna intervención humana - no debe perseguirse "a menos y hasta que se pueda garantizar la seguridad".
Comentarios