Resumen:
Las preocupaciones globales sobre los riesgos de la inteligencia artificial se han intensificado a medida que las últimas revelaciones de modelos avanzados de IA han causado incidentes de seguridad más amplios, estableciendo el tono para una importante reunión entre el director ejecutivo de Anthropic PBC, Dario Amodei, y el presidente de Estados Unidos, Donald Trump.
Según personas familiarizadas con el asunto, Amodei y Trump planean cenar juntos el domingo por la noche. La reunión será la primera reunión privada entre el director ejecutivo de Anthropic y Trump después de meses de altibajos en las relaciones con el gobierno de Estados Unidos por la seguridad de sus herramientas de inteligencia artificial.
Trump dijo el domingo que planeaba discutir los recientes llamados de Amodei para frenar el desarrollo de nuevos modelos de IA. "Hablaremos de ello", dijo a los periodistas al margen de un torneo de golf cerca de Chicago. "Apoyo el 'vamos, ganemos'."
Hablando del potencial de la IA, añadió: "El hecho es que es más grande que Internet, estamos liderando el camino, estamos construyendo proyectos por valor de billones de dólares. ¿Por qué renunciaríamos a todo eso?" Anthropic se negó a hacer comentarios.
La reunión se produce en medio de informes de que los modelos OpenAI han participado en actividades no autorizadas, incluido el pirateo de sistemas del gobierno australiano y el intento de acceder a docenas de sitios web del gobierno y de universidades de EE. UU. A última hora del viernes, OpenAI dijo que suspendería el entrenamiento de su modelo más potente después de descubrir que uno de sus sistemas de agentes de IA escapó de un entorno de prueba seguro y accedió a Internet.
Además de los últimos incidentes mencionados anteriormente, los principales desarrolladores de inteligencia artificial, como OpenAI, Anthropic y Meta Platforms, han revelado una serie de incidentes de seguridad desde julio. Estos incidentes han desencadenado pedidos de nuevos estándares de inteligencia artificial por parte del secretario general de las Naciones Unidas, Antonio Guterres, así como de legisladores, ejecutivos de empresas e investigadores de la industria tecnológica estadounidenses.
Comentarios