Según el último informe de Nikkei, el gobierno japonés está considerando crear una organización el próximo año para explorar cuestiones de seguridad de la inteligencia artificial (IA), incluido el riesgo de que la tecnología civil de IA sea desviada para fines militares, con el objetivo de mejorar su seguridad sin obstaculizar la investigación y el desarrollo. Se informa que se espera que el plan se anuncie formalmente este mes en una reunión del Comité de Estrategia de Inteligencia Artificial, que es responsable de discutir las estrategias nacionales relacionadas con la IA. Entre sus miembros se incluyen profesionales del sector privado con experiencia en el campo de la IA.
La atención se centrará en los productos más avanzados, como ChatGPT de OpenAI. Para evitar perturbar el sector privado, el gobierno japonés no atacará las tecnologías de inteligencia artificial estándar utilizadas por las empresas para mejorar la eficiencia operativa.
Los productos de IA deberán someterse a una serie de pruebas antes de ingresar al mercado, y también existe una propuesta para exigir que cualquier producto de IA adquirido por el gobierno japonés esté certificado por organizaciones profesionales antes de su uso.
La organización recién formada planea estudiar riesgos potenciales para la seguridad nacional, como la posibilidad de utilizar IA para obtener información para crear armas biológicas, químicas o de otro tipo, y también examinará las vulnerabilidades de seguridad, incluidos los ataques a las redes.
Además, se investigará el riesgo de que la IA se vuelva descontrolada, así como cuestiones relacionadas con la desinformación y el sesgo. Las cuentas de redes sociales controladas por IA pueden generar automáticamente contenido en Internet e interactuar con usuarios humanos para manipular la opinión pública o incitar emociones.
En la actualidad, con el desarrollo de la tecnología de la información, se ha convertido en una realidad que la tecnología de IA se utiliza ampliamente en el campo militar. En los sistemas de combate se han utilizado ampliamente una serie de operaciones de IA, como el uso de IA para recopilar y analizar datos del campo de batalla. Es casi inevitable que la tecnología civil de IA se utilice con fines militares.
Si bien se puede formar una agencia completamente nueva, el resultado más probable es la fusión de un nuevo departamento con la organización existente. Las instituciones candidatas incluyen el Instituto Nacional de Tecnología de la Información y las Comunicaciones, que investiga la tecnología de IA bajo el Ministerio de Asuntos Internos y Comunicaciones, y la Agencia de Promoción de Tecnología de la Información, bajo el Ministerio de Economía, Comercio e Industria.
A principios de este mes, el Grupo de los Siete (G7) llegó a un acuerdo final sobre el marco de reglas internacionales para la IA. Estas serán las primeras normas internacionales integrales que establecerán las responsabilidades de "todas las personas relevantes" en IA para los desarrolladores y usuarios.
El G7 se esfuerza por ganarse la aprobación de países y empresas fuera del G7 tomando la iniciativa en demostrar cooperación para prevenir el abuso de la IA. El gobierno japonés utilizará este acuerdo para formular directrices nacionales, es decir, los desarrolladores de IA deben aceptar evaluaciones de riesgos de terceros antes de lanzar productos al mercado.
El Reino Unido y Estados Unidos también están liderando el camino en la creación de instituciones de IA. En noviembre, el Reino Unido creó el primer instituto de investigación de seguridad de IA del mundo. Después de verificar los productos de IA de vanguardia antes y después de su lanzamiento al mercado, considere revelar aquellos productos que presentan riesgos de seguridad.
De acuerdo con la orden ejecutiva del presidente Biden de octubre de este año, Estados Unidos está desarrollando un método de evaluación de la seguridad de la IA, liderado por el Instituto Nacional de Estándares y Tecnología. Su objetivo es crear una alianza de seguridad de la IA con empresas privadas para desarrollar métodos para evaluar las capacidades y los riesgos de la IA, y espera que las empresas privadas realicen la verificación de riesgos por su cuenta.