Resumen:
El director ejecutivo de OpenAI, Sam Altman, y el director ejecutivo de Anthropic PBC, Dario Amodei, hicieron una rara aparición en una reunión del Consejo de Seguridad de las Naciones Unidas, donde los dos instaron a los líderes mundiales a cooperar en inteligencia artificial. La conferencia se centró en la preocupación de que la IA pueda representar una amenaza existencial para la humanidad.
En sus discursos, tanto Altman como Amodei enfatizaron la importancia de la cooperación global en materia de estándares para hacer frente a situaciones en las que las capacidades de mejora personal de los sistemas de IA pueden exceder el control humano. Los dos ejecutivos dijeron que los gobiernos deberían trabajar junto con la industria para tomar decisiones clave sobre el futuro de la tecnología.
Altman dijo: "Históricamente, algunos países que compiten entre sí y no siempre son amigables entre sí se unirán por intereses comunes y bienestar colectivo frente a nuevas tecnologías poderosas. Creemos que este es ese momento".
La reunión del Consejo de Seguridad del miércoles tuvo lugar al margen de la Asamblea General de las Naciones Unidas en Nueva York, donde líderes y altos diplomáticos debatieron sobre la inteligencia artificial y sus peligros.
En sus palabras de apertura, el Secretario General de las Naciones Unidas, Antonio Guterres, instó a los líderes mundiales a coordinarse en los llamados modelos de inteligencia artificial de vanguardia y señaló a las Naciones Unidas como una plataforma para apoyar estos esfuerzos. En su discurso, el presidente estadounidense, Donald Trump, rechazó los llamados a un acuerdo internacional para establecer barreras de seguridad para el desarrollo de la inteligencia artificial.
En un discurso pronunciado por vídeo, Amodei dijo que se espera que la inteligencia artificial aporte enormes beneficios a la ciencia y la medicina, pero también puede tener consecuencias catastróficas. Tras señalar que los terroristas podrían utilizar la inteligencia artificial para crear armas biológicas mortales y que los modelos de inteligencia artificial podrían ser demasiado poderosos más allá del control de los desarrolladores, instó a los gobiernos a desarrollar estándares de seguridad internacionales.
Amodei dijo: "Si bien todos tenemos muchas diferencias aquí, debemos dejarlas de lado y trabajar juntos para abordar las oportunidades y amenazas globales que tenemos ante nosotros. Ningún líder, ninguna empresa, ningún país puede enfrentar este desafío solo".
En su discurso en la reunión del Consejo de Seguridad, Altman intentó encontrar un compromiso sobre si se debería frenar el desarrollo de la tecnología de inteligencia artificial. Cree que existe un "camino pragmático" entre quienes advierten de las consecuencias catastróficas de la inteligencia artificial y quienes restan importancia a los riesgos potenciales. También se unió a Amodei para enfatizar la necesidad de mecanismos rápidos de respuesta a incidentes.
“Sería bueno para todos nosotros si pudiéramos alcanzar un consenso global sobre evidencia efectiva, salvaguardias efectivas y supervisión efectiva”, dijo Altman. "No lo sabemos todo y estamos muy abiertos a cualquier sugerencia mejor. Estamos dispuestos a trabajar con todos para hacer nuestro mejor esfuerzo para encontrar una manera de avanzar".
Comentarios