Instituciones poderosas están tomando conciencia del potencial y los peligros de la inteligencia artificial. La gran pregunta es qué impacto tendrán en el futuro si (y una vez) se producen pasos en falso. Ayer, las Naciones Unidas anunciaron el establecimiento de un nuevo Comité Asesor de Inteligencia Artificial, compuesto por 38 personas del gobierno, el mundo académico y la industria, cuyo objetivo es "analizar y hacer recomendaciones sobre la gobernanza internacional de la inteligencia artificial".
Las Naciones Unidas dijeron que el comité asesor serviría como un grupo puente para cubrir cualquier otra iniciativa en torno a la inteligencia artificial por parte de organizaciones internacionales. De hecho, las Naciones Unidas han estado llevando a cabo discusiones de un mes de duración con líderes de la industria y otras partes interesadas a medida que desarrollan su estrategia y enfoque de IA. El plan es presentar recomendaciones sobre inteligencia artificial para el verano de 2024, cuando las Naciones Unidas planean celebrar un evento de "Cumbre Futura". El nuevo comité asesor celebrará su primera reunión hoy.
El comité asesor dijo que la misión de la agencia es "construir un consenso científico global sobre los riesgos y desafíos, ayudar a aprovechar la IA para lograr los Objetivos de Desarrollo Sostenible y fortalecer la cooperación internacional en la gobernanza de la IA".
En sus inicios, lo más notable de la Comisión fue su posicionamiento generalmente positivo. Actualmente se habla mucho de los riesgos de la IA, ya sean amenazas a la seguridad nacional, protección de datos o desinformación; La próxima semana algunos de los líderes y expertos del mundo en la materia se reunirán en el Reino Unido para intentar abordar algunas de estas cuestiones en la Cumbre de Seguridad de la IA. No está claro cómo estas y otras iniciativas formadas a nivel nacional e internacional trabajarán juntas o implementarán medidas fuera de su jurisdicción.
De acuerdo con el espíritu de las Naciones Unidas, el grupo de 38 personas -que incluye ejecutivos de Alphabet/Google y Microsoft, al menos un "antropólogo digital", varios profesores y funcionarios gubernamentales- es un grupo de alto nivel que adopta una postura más positiva que constructiva y se centra en los acontecimientos internacionales.
"La IA puede impulsar un progreso humano extraordinario. Desde anticipar y responder a las crisis hasta implementar programas de salud pública y servicios educativos, la IA puede amplificar y mejorar el trabajo de los gobiernos, la sociedad civil y las Naciones Unidas en todos los ámbitos", dijo el Secretario General de la ONU, Antonio Guterres, sobre los objetivos del grupo. "Para las economías en desarrollo, la IA ofrece la posibilidad de superar las tecnologías obsoletas y llevar servicios directamente a quienes más los necesitan. El potencial transformador de la IA es incluso difícil de aprovechar".
Las Naciones Unidas mencionaron el papel de "puente" del grupo, que puede participar en exploraciones más importantes más allá de la "inteligencia artificial para el bien". Gary Marcus participó en una charla informal en la conferencia Disrupt en septiembre para hablar sobre los riesgos de la inteligencia artificial. Si bien las nuevas innovaciones en áreas como la inteligencia artificial generativa sin duda han llevado esta tecnología al frente y al centro del mercado masivo, la elaboración de los desafíos por parte de Marcus también resalta algunos de los aspectos más preocupantes:
"Mi mayor preocupación a corto plazo sobre la IA es que la desinformación producida en masa, la desinformación deliberada socava la democracia y todo tipo de cosas que suceden. Mi mayor preocupación a largo plazo es que no sabemos cómo controlar la IA que se está construyendo ahora, y no sabemos cómo controlar la IA que se está construyendo en el futuro. Así que corremos el riesgo de que las máquinas hagan todo tipo de cosas que no pretendíamos que hicieran".