Resumen:
El Alto Comisionado de las Naciones Unidas para los Derechos Humanos, Volker Turk, advirtió el lunes que la inteligencia artificial podría representar una amenaza para la humanidad y prometió instar a las empresas de inteligencia artificial a reducir los riesgos. En un discurso pronunciado en vísperas de su segundo mandato sin precedentes, Türk pidió “salvaguardias férreas” para garantizar la seguridad de la inteligencia artificial.
Tilke dijo a la agencia en Ginebra: "Comparto las preocupaciones de aquellos en la industria de que la inteligencia artificial avanzada pueda traer riesgos existenciales para la humanidad".
“Hoy estoy aquí para pedir a todas las partes que hagan todo lo posible para establecer un mecanismo de garantía rígido e inquebrantable para la seguridad de la inteligencia artificial antes de que sea demasiado tarde”.
Tilke no dio más detalles sobre la naturaleza específica del riesgo, pero un portavoz de su oficina dijo que una falla de un sistema de inteligencia artificial de alto rendimiento podría alterar la infraestructura crítica.
El portavoz se refirió al "comportamiento peligroso de entrenamiento de agentes" que ocurrió en el llamado "incidente de Hugging Face" en julio: una gran cantidad de agentes de OpenAI atacaron una plataforma de código abierto. Dijo que el incidente demostró que la velocidad de desarrollo de la tecnología de inteligencia artificial de vanguardia ha excedido las capacidades de protección de seguridad.
Til'c advirtió que algunas personas tienen "un control casi ilimitado de la inteligencia artificial", pero no nombró a personas específicas.
Dijo: "Como mínimo, necesitamos que los países donde la investigación y el desarrollo de inteligencia artificial y los países relacionados con la cadena de suministro acuerden conjuntamente un conjunto de líneas rojas insuperables".
Comentarios