El rey del Reino Unido convocó una cumbre para centrarse en los riesgos de la IA. Huang Renxun dijo que los productos que no sean lo suficientemente seguros deberían posponerse.

Resumen:

Los pesos pesados ​​de la industria de la inteligencia artificial (IA) se han reunido en Escocia, donde el Rey les ha instado a asegurarse de no perder el control de la tecnología. El rey Carlos III convocó una cumbre con líderes de la industria tecnológica y otras figuras influyentes para centrarse en los crecientes riesgos de la IA. El tema se ha convertido en un foco global esta semana. Los ejecutivos en la reunión no se comprometieron públicamente a realizar ningún cambio, pero algunos respondieron directamente a preocupaciones de seguridad.

"Aquellos de nosotros que desarrollamos IA debemos probar rigurosamente los sistemas", dijo brevemente el director ejecutivo de Nvidia, Jensen Huang, en el evento real el jueves. "Si el producto no es lo suficientemente seguro, deberíamos posponer su lanzamiento".

A la cumbre escocesa con Jen-Hsun Huang también asistieron Sarah Friar, directora financiera de OpenAI, y Demis Hassabis, cofundador de Google DeepMind. Tino Cuéllar, director de asuntos públicos de Anthropic PBC, también participó en el foro de IA celebrado en Dumfries Estate. Otros asistentes incluyeron directores de empresas de tecnología, organizaciones sin fines de lucro e instituciones educativas, incluida la Universidad de Tsinghua.

“Aquellos de nosotros que en este mundo valoramos la humanidad y sus valores morales vitales buscamos ansiosamente sus garantías: garantías de que no perderemos el control de nuestro propio destino”, dijo Carlos III en su discurso de apertura. El Palacio de Buckingham dijo en un comunicado que el evento tenía como objetivo discutir cómo se podría utilizar la tecnología en beneficio de la sociedad y el mundo natural.

Rey británico Carlos III (izquierda), Jensen Huang, director ejecutivo de Google DeepMind (centro) y Nvidia, en Dumfries Estate en Cumnock, Escocia, el 17 de septiembre.

Esta cumbre llega en el momento adecuado. El director ejecutivo de Anthropic, Dario Amodei, publicó un artículo el fin de semana pasado pidiendo frenar el desarrollo de modelos de vanguardia, lo que desencadenó un debate global sobre los crecientes riesgos de la IA.

“Últimamente ha habido un acalorado debate sobre los riesgos catastróficos de esta tecnología”, dijo Hassabis en la cumbre. El científico británico renunció recientemente a su puesto de gestión del negocio de inteligencia artificial de Google. Dijo que tiene dos preocupaciones principales sobre la poderosa IA: una es que el sistema autónomo esté fuera de control y la otra es que "actores maliciosos" utilicen la IA para hacer el mal. Sin embargo, cree que la industria puede solucionar estos problemas. "Tengo plena fe en el ingenio humano", dijo.

Carlos III planteó dos preguntas clave en la cumbre: "En primer lugar, ¿cómo aprovechamos al máximo los beneficios de la IA garantizando al mismo tiempo la seguridad? En segundo lugar, ¿cómo construimos cooperación y consenso internacional para lograr este objetivo, garantizando que ningún país se quede atrás y protegiendo el futuro de la humanidad?

Según la programación distribuida en el acto, durante la cumbre, Carlos III también mantuvo conversaciones a puerta cerrada con Huang Jen-Hsun, Hassabis, Cuéllar, Fray y otros cinco invitados.