El primer panel de expertos científicos independientes sobre inteligencia artificial establecido por las Naciones Unidas publicó un informe de evaluación preliminar en el que se afirma que el rápido desarrollo de la inteligencia artificial (IA) ha aportado enormes beneficios potenciales a países y personas de todo el mundo, pero también conlleva importantes riesgos. Este informe se presentará a los gobiernos en el primer Diálogo Global de las Naciones Unidas sobre Gobernanza de la Inteligencia Artificial en Ginebra del 6 al 7 de julio. Es la primera evaluación científica independiente de la inteligencia artificial a escala global. Se espera que el próximo año se publique una versión completa y completa.
El informe fue coautor de 40 destacados científicos y expertos de todas las regiones del mundo, que participaron a título individual durante un período de tres años y no estaban directamente vinculados por ningún gobierno, agencia o empresa, y su objetivo era proporcionar evidencia científica independiente a los tomadores de decisiones. El informe señala que en el contexto de la rápida evolución de las capacidades de inteligencia artificial, los responsables de la formulación de políticas necesitan urgentemente una base científica confiable para formular marcos regulatorios. Sin embargo, la comprensión actual de algunos sistemas altamente autónomos por parte de la comunidad científica todavía está rezagada y la adaptabilidad de la sociedad y el gobierno es obviamente insuficiente. Las herramientas eficaces para frenar este tipo de inteligencia artificial altamente autónoma aún son limitadas.
El copresidente del panel de expertos, Yoshua Bengio, destacó en el informe que la evidencia científica de un "comportamiento engañoso" en la inteligencia artificial está aumentando. Señaló que a medida que las capacidades del sistema mejoran aún más, la investigación científica no puede garantizar que la inteligencia artificial no cause daños catastróficos; dichos daños pueden originarse en el comportamiento del propio sistema o de usuarios con motivos maliciosos. El informe concluye que "los beneficios potenciales de la inteligencia artificial son enormes", pero advierte que los efectos negativos de la tecnología no pueden ignorarse si faltan restricciones adecuadas y una planificación cuidadosa durante el despliegue rápido a gran escala.
El informe señala que la rápida promoción de la inteligencia artificial está cambiando profundamente los sistemas sociales, económicos y ambientales, y también plantea desafíos a la salud mental de los usuarios. En el lado positivo, las aplicaciones de inteligencia artificial han demostrado la capacidad de mejorar la eficiencia y crear nuevo valor en muchos campos como la educación, la atención médica, la investigación científica y la producción industrial. Pero en el lado negativo, el informe advierte que la IA podría utilizarse como herramienta destructiva o para socavar la confianza pública, la cohesión social y la deliberación democrática (discusión deliberativa) mediante la manipulación de la información y las emociones.
Según esta evaluación preliminar, más de mil millones de personas en todo el mundo utilizan la IA conversacional cada semana, pero el nivel de aplicación es muy desigual entre países e industrias, y los países en desarrollo generalmente están rezagados en términos de acceso y uso. En términos de concentración de potencia informática, los datos citados en el informe indicaron que entre las 500 principales supercomputadoras de inteligencia artificial del mundo, Estados Unidos representa alrededor del 75% de la potencia informática y China aproximadamente el 15%, lo que destaca que la infraestructura actual de inteligencia artificial está altamente concentrada en unas pocas economías.
El informe también llamó la atención sobre el grave desequilibrio a nivel lingüístico. Hay más de 7.000 idiomas en el mundo, pero los modelos actuales de inteligencia artificial convencionales solo cubren un número muy pequeño de ellos en el entrenamiento. Para muchos idiomas, los problemas de calidad de la traducción automática son prominentes, y los errores no solo afectan la comunicación diaria, sino que también pueden causar consecuencias graves en escenarios que son muy sensibles a la seguridad personal, como el diagnóstico médico y la toma de decisiones sobre tratamientos.
El panel de expertos señaló que los riesgos que conlleva la proliferación de la inteligencia artificial han comenzado a hacerse evidentes en muchos campos. Estos incluyen posibles impactos negativos en los derechos humanos, los sistemas sociales y el medio ambiente natural, como la creciente frecuencia de material de abuso sexual infantil generado por inteligencia artificial y contenido de violencia sexual implementado mediante tecnología deepfake en Internet. El informe cree que fenómenos relacionados han expuesto deficiencias obvias en la supervisión de contenidos, la justicia penal y la cooperación transnacional, y existe una necesidad urgente de fortalecer las respuestas a nivel técnico e institucional simultáneamente.
En lo que respecta al entorno de la información, el informe advierte que la inteligencia artificial ha reducido significativamente el umbral para la producción a gran escala y la difusión precisa de "contenidos persuasivos". Esta tendencia podría conducir a una erosión progresiva de la integridad de la información, erosionando así la confianza pública en los medios y las instituciones, socavando la cohesión social e interfiriendo con los mecanismos deliberativos de los procesos democráticos que se basan en hechos y debates razonados. Los expertos creen que ante tales cambios, los marcos regulatorios tradicionales de seguridad de la información y medios de comunicación se han vuelto insuficientes, y es necesario actualizar las ideas de gobernanza y fortalecer la coordinación internacional.
El informe también señaló que la mayoría de los países -incluidas algunas economías avanzadas- carecen de la capacidad de realizar evaluaciones técnicas de los modelos de inteligencia artificial más recientes y potentes, y es difícil tener una participación técnica sustancial para influir en la gobernanza global de estos sistemas. Esta brecha en capacidades y recursos técnicos ha exacerbado aún más la desigualdad internacional en la formulación de estándares de seguridad de inteligencia artificial y prevención y control de riesgos. El grupo de expertos pidió ayudar a una gama más amplia de países a mejorar sus capacidades de evaluación y regulación a través de mecanismos de cooperación multilateral y proyectos de creación de capacidad, formando así una voz más representativa en la gobernanza global.
Este informe preliminar servirá como documento de referencia central en el Diálogo Global de las Naciones Unidas sobre Gobernanza de la Inteligencia Artificial para que los gobiernos y las organizaciones internacionales relevantes discutan futuros marcos regulatorios y vías de cooperación. El grupo de expertos afirmó que planea continuar recopilando y evaluando los últimos resultados de investigaciones científicas y casos de aplicaciones prácticas durante el próximo año para proporcionar una base de evidencia más detallada y sistemática para el informe integral propuesto para ayudar a todas las partes a buscar un equilibrio más estable entre la prevención y el control de riesgos y la innovación tecnológica.