Resumen:
El Secretario General de las Naciones Unidas, Guterres, advirtió a los líderes de varios países el miércoles, hora local, que el rápido desarrollo de la inteligencia artificial (IA) está trayendo riesgos que no pueden ignorarse, y que el mundo no puede soportar el riesgo de una carrera hacia el fondo en el campo de la seguridad de la IA. Esta afirmación contradice la del presidente estadounidense Trump, quien anteriormente dijo que las medidas regulatorias existentes son suficientes.
Antes de la reunión de la Asamblea General de las Naciones Unidas de la próxima semana en Nueva York, Guterres dijo que fortalecer la regulación de la IA será uno de los temas clave discutidos en sus conversaciones con los líderes mundiales.
En la conferencia de prensa, Guterres dijo: "Al observar las amenazas que enfrentamos en todo el mundo, me gustaría hacer algunos comentarios adicionales sobre las crecientes preocupaciones causadas por el rápido desarrollo de la IA".
Añadió: "La IA tiene un enorme potencial para acelerar el progreso hacia el desarrollo sostenible, mejorar el aprendizaje, fortalecer los sistemas de salud, aumentar la resiliencia al cambio climático y mucho más".
Pero también señaló: "Cada vez más personas involucradas en el desarrollo de la IA están emitiendo advertencias: les preocupa que la velocidad de desarrollo de la IA haya excedido nuestra comprensión de sus riesgos potenciales".
"No podemos ignorar las preocupaciones planteadas, especialmente por aquellos que están en la primera línea del desarrollo de la IA. La primera responsabilidad de cualquier gobierno es proteger a sus ciudadanos, y eso incluye protegerlos de las amenazas que plantea la IA".
A medida que aumentan las preocupaciones del público sobre los riesgos potenciales de la IA, hay cada vez más advertencias relevantes. El investigador antrópico Jacob Coxon dijo la semana pasada que había dimitido en parte porque "las personas realmente involucradas en el desarrollo de la IA creen seriamente que esta tecnología podría matarnos a todos antes del final de esta década". Al mismo tiempo, ejecutivos de algunas de las empresas de IA más grandes del mundo también han pedido una desaceleración en el desarrollo de la tecnología.
Trump dijo el lunes que Estados Unidos ha establecido medidas de "guarda" relevantes para supervisar a las empresas de IA y hacerlas responsables. También minimizó las preocupaciones expresadas anteriormente por los ejecutivos de la industria.
Guterres lleva mucho tiempo promoviendo el establecimiento de un mecanismo global de gobernanza de la inteligencia artificial. En 2023, las Naciones Unidas establecieron un organismo asesor de inteligencia artificial de alto nivel compuesto por 39 miembros, incluidos ejecutivos de empresas de tecnología, funcionarios gubernamentales y académicos de Estados Unidos, Rusia, Japón y otros países.
Varios diplomáticos dijeron que cuando los líderes mundiales se reúnan en Nueva York para la reunión anual de las Naciones Unidas la próxima semana, el Consejo de Seguridad de las Naciones Unidas también podría celebrar una reunión sobre cuestiones de IA. El Consejo de Seguridad de las Naciones Unidas celebró su primera reunión sobre cuestiones de IA en 2023.
Guterres dijo que los países con las capacidades técnicas más sólidas en la frontera de la IA "deberían establecer mecanismos de comunicación e intercambio de información y desarrollar algunas barreras de seguridad comunes para evitar caer en una carrera hacia el fondo (es decir, los participantes obtienen ventajas competitivas al reducir continuamente los estándares); de lo contrario, esta competencia algún día podría conducir a enormes desastres a escala global".
Guterres afirmó: "Necesitamos desarrollar un entendimiento común de que, al tiempo que garantizamos el desarrollo seguro y responsable de la IA, también debemos aclarar cuándo pueden ser necesarias barreras de seguridad más fuertes o medidas adicionales para abordar los riesgos potenciales a medida que las capacidades de los sistemas de IA continúan aumentando".
Artículos relacionados:
El Secretario General de las Naciones Unidas advierte: La velocidad de desarrollo de la inteligencia artificial ha superado con creces el ritmo de actualización de las normas regulatorias
Comentarios