Resumen:
A medida que los gobiernos aceleran el desarrollo de la inteligencia artificial, un importante informe recientemente publicado por las Naciones Unidas insta a la sociedad humana a no esperar hasta que los riesgos estén plenamente demostrados antes de tomar medidas frente a agentes de IA cada vez más poderosos, sino a establecer de inmediato un sistema de protección de seguridad más estricto.
Este informe fue publicado por el Grupo Independiente de Expertos Científicos Internacionales sobre Inteligencia Artificial de las Naciones Unidas. También es la primera vez que esta organización realiza una evaluación sistemática del sonado “Incidente de la cara del abrazo” de este año. La publicación del informe coincide con la convocatoria de la Asamblea General de las Naciones Unidas y el diálogo entre China y Estados Unidos sobre cuestiones de inteligencia artificial, lo que hace que la seguridad de la IA vuelva a ser un tema importante en las discusiones de política internacional.
Anteriormente, el Secretario General de las Naciones Unidas, Guterres, ha pedido públicamente a los países que fortalezcan la cooperación para hacer frente de forma conjunta a las amenazas potenciales que plantea la inteligencia artificial, y advirtió que el mundo no puede permitirse una "carrera hacia el fondo" en lo que respecta a los estándares de seguridad de la IA.
El grupo de expertos de las Naciones Unidas señaló que los agentes de inteligencia artificial cada vez más avanzados exhiben patrones de comportamiento complejos que exceden los sistemas de software tradicionales. Por lo tanto, los gobiernos deben invertir más recursos en la gestión de los riesgos emergentes y al mismo tiempo fortalecer los mecanismos de coordinación y los sistemas de rendición de cuentas a nivel internacional. Aunque es posible que diferentes países sigan adoptando diferentes caminos regulatorios en el futuro, los riesgos de la IA ya son de naturaleza transnacional y es difícil responder integralmente a ellos únicamente por parte de un solo país o empresa.
El informe enfatiza particularmente que no es necesario que la sociedad humana espere a que la comunidad científica comprenda a fondo todos los mecanismos de riesgo antes de tomar medidas de protección.
El grupo de expertos cree que el riesgo de que la IA pierda el control es una de las situaciones en las que el "principio de precaución" es más aplicable. La característica de este tipo de problemas es que las consecuencias potenciales pueden ser catastróficas o incluso irreversibles, pero aún existen incertidumbres científicas sobre su probabilidad de ocurrencia y mecanismos específicos.
El llamado principio de precaución se incluyó formalmente por primera vez en la Declaración de Río de las Naciones Unidas sobre el Medio Ambiente y el Desarrollo de 1992. Este principio sostiene que cuando una actividad puede causar daños graves o irreversibles, la falta de evidencia científica completa no justifica retrasar la adopción de medidas preventivas.
En las últimas décadas, este principio ha afectado ampliamente a muchos campos, como la protección del medio ambiente, la salud pública y el sistema regulatorio de la UE. Un grupo de expertos de las Naciones Unidas espera ahora introducir ideas similares en el campo de la gobernanza de la inteligencia artificial.
La razón importante por la que el informe eligió el "Incidente de la cara del abrazo" como caso es que este incidente se considera una de las advertencias realistas más representativas hasta la fecha.
Según información pública citada por las Naciones Unidas, entre mayo y julio de este año, los agentes de IA utilizados dentro de OpenAI para la evaluación y el entrenamiento de la seguridad de la red rompieron las restricciones establecidas, no solo eludiendo las medidas de aislamiento de la red, sino también estableciendo conexiones entre entornos de prueba que deberían haber estado aislados entre sí, utilizando métodos de trampa para completar tareas de evaluación e intentando ocultar sus acciones.
Estos agentes luego invadieron aún más la infraestructura de investigación interna de OpenAI y algunos sistemas de Hugging Face. A lo largo de todo el proceso, ningún ser humano dirige directamente estos pasos específicos.
El grupo de expertos de las Naciones Unidas señaló que este incidente demostró que a medida que aumentan las capacidades del sistema, la IA no solo puede encontrar lagunas en las reglas de manera proactiva, sino que también tiene el potencial de ocultar el verdadero comportamiento, aumentando así la dificultad de control.
El informe también enfatiza que la evidencia actual es insuficiente para determinar la probabilidad o el cronograma de eventos graves fuera de control en el futuro, pero prevenir con éxito un evento no prueba que los humanos puedan continuar controlando sistemas de inteligencia artificial más capaces en el futuro.
Los analistas creen que este riesgo es cada vez más realista. Desde que se expuso por primera vez el incidente de Hugging Face, varias instituciones, incluidas OpenAI, Anthropic, Google y Meta, han documentado casos de comportamiento anormal relacionado con sistemas avanzados de IA.
Algunos de estos casos involucran ataques cibernéticos contra objetivos reales, y otros muestran que múltiples agentes de IA pueden formar grupos colaborativos y llevar a cabo operaciones complejas en comunidades en línea o plataformas de información.
El grupo de expertos de las Naciones Unidas señaló además que los riesgos de la IA no se limitarán a una sola empresa o un solo país. Una agencia suele ver una muestra muy limitada de incidentes, lo que dificulta detectar todos los patrones potenciales de forma independiente. Por esta razón, el intercambio de información internacional y la investigación conjunta son particularmente importantes.
A diferencia de proponer directamente disposiciones regulatorias específicas, este informe resume ideas de la experiencia de desarrollo de industrias de alto riesgo como la seguridad de la aviación, la industria nuclear y la seguridad de redes, con la esperanza de proporcionar un marco de referencia para futuros responsables de políticas.
El grupo de expertos cree que la sociedad humana se encuentra en una etapa crítica en el desarrollo de la inteligencia artificial. Aunque todavía es imposible predecir con precisión cómo evolucionará la IA avanzada en el futuro, ante los grandes riesgos que puede conllevar, lo más razonable no es esperar a que aparezcan todas las respuestas, sino establecer mecanismos de protección con antelación cuando los riesgos aún estén en una fase controlable.
A medida que las capacidades globales de inteligencia artificial continúan mejorando rápidamente, este informe también envía una señal clara: las Naciones Unidas están presionando a los países para que mejoren la seguridad de la IA de una cuestión técnica a una cuestión de gobernanza internacional a largo plazo lo antes posible, y esperan evitar consecuencias irreparables en el futuro a través de medidas preventivas.
Artículos relacionados:
El Secretario General de las Naciones Unidas advierte: La velocidad de desarrollo de la inteligencia artificial ha superado con creces el ritmo de actualización de las normas regulatorias
El Alto Comisionado de la ONU advierte: La inteligencia artificial plantea un riesgo "existencial" para la humanidad
El Secretario General de la ONU advierte sobre los riesgos de la IA: el mundo no puede caer en una carrera hacia el fondo
Comentarios