Estados Unidos, Gran Bretaña, Australia y otros 15 países han emitido directrices globales para ayudar a proteger los modelos de inteligencia artificial de la manipulación, instando a las empresas a hacer que sus modelos sean "seguros por diseño". El 26 de noviembre, los 18 países publicaron un documento de 20 páginas que describe cómo las empresas de inteligencia artificial deberían manejar sus problemas de ciberseguridad al desarrollar o utilizar modelos de inteligencia artificial, ya que afirmaron que "la seguridad es a menudo una consideración secundaria" en esta industria de ritmo rápido.
Las directrices incluyen principalmente recomendaciones generales, como controlar estrictamente la infraestructura de los modelos de IA, monitorear los modelos antes y después de su lanzamiento y capacitar a los empleados sobre los riesgos de ciberseguridad.
Pero no se mencionan algunas cuestiones controvertidas en el campo de la inteligencia artificial, incluidos los posibles controles sobre el uso de modelos de generación de imágenes, deepfakes o métodos de recopilación de datos y su uso en modelos de entrenamiento, un tema en el que varias empresas de inteligencia artificial han sido demandadas por infracción de derechos de autor.
El secretario del Departamento de Seguridad Nacional de Estados Unidos, Alejandro Mayorkas, dijo en un comunicado: "Estamos en un punto de inflexión en el desarrollo de la inteligencia artificial, que bien puede ser la tecnología más influyente de nuestro tiempo. La ciberseguridad es la clave para construir sistemas de inteligencia artificial seguros, fiables y dignos de confianza".
Las directrices siguen a otras iniciativas de gobierno a gobierno para opinar sobre la IA, incluida una cumbre sobre seguridad de la IA celebrada por gobiernos y empresas de IA en Londres a principios de este mes para coordinar acuerdos sobre el desarrollo de la IA.
Mientras tanto, la Unión Europea está trabajando en los detalles de su proyecto de ley de inteligencia artificial que proporcionará supervisión en el campo, y el presidente de los Estados Unidos, Joe Biden, emitió una orden ejecutiva en octubre estableciendo estándares para la seguridad de la IA, aunque la industria de la IA se opuso a ambas órdenes, que afirmaron que podrían sofocar la innovación.
Otros signatarios de las nuevas directrices "Safe by Design" son Canadá, Francia, Alemania, Israel, Italia, Japón, Nueva Zelanda, Nigeria, Noruega, Corea del Sur y Singapur. Empresas de inteligencia artificial, incluidas OpenAI, Microsoft, Google, Anthropic y ScaleAI, también contribuyeron al desarrollo de las directrices.