Resumen:
Bill Gates acusó a la administración Trump de obstaculizar los esfuerzos para prevenir los riesgos de la IA y advirtió que la tecnología podría explotarse para causar una pandemia. Hablando en la Cumbre sobre el futuro de la IA el miércoles, el cofundador de Microsoft dijo que el modelo de IA ha demostrado capacidades "sorprendentes", lo que significa que no se puede subestimar su potencial para beneficiar a la humanidad, así como su potencial para causar daño.
Dijo que las entidades maliciosas que utilizan herramientas de inteligencia artificial para crear armas biológicas o atacar vulnerabilidades de redes en toda la sociedad son los riesgos más apremiantes en este momento. Lo que es particularmente digno de mención es que algunos de los llamados modelos "abiertos" están disponibles para los desarrolladores de forma gratuita, y los mecanismos de monitoreo y protección de seguridad de dichos modelos se pueden eliminar.
El magnate de la tecnología advirtió que los incidentes de bioseguridad causados por la IA pueden causar "una magnitud de daño mucho mayor que la epidemia".
Gates dijo que a pesar de los riesgos antes mencionados, los esfuerzos globales para regular y monitorear la IA y su impacto se han estancado debido a la inacción de la Casa Blanca.
"Si Estados Unidos no está involucrado, el valor de las acciones relevantes es muy limitado. Así que ahora estamos en un punto muerto... La única pregunta es cuántos incidentes crueles ocurrirán antes de que cambien su postura".
Gates es uno de los líderes tecnológicos que continúa emitiendo fuertes advertencias. Advirtió que el actual camino de desarrollo de la IA puede llevar a que se abuse de la tecnología o se abandone el control humano, con consecuencias catastróficas. El filántropo advirtió anteriormente que la IA podría matar a mil millones de personas y tener un impacto masivo en el mercado laboral.
En los últimos meses, las preocupaciones sobre los riesgos de seguridad de esta tecnología emergente han seguido aumentando. El prospecto de salida a bolsa de Anthropic de la semana pasada advirtió que la IA puede traer "riesgos catastróficos o incluso existenciales" para la humanidad. Gates elogió a este laboratorio de IA de vanguardia por atreverse a ser franco sobre los riesgos de la IA: "Siempre han sido muy francos y este es otro ejemplo".
A pesar del sorprendente ritmo de iteración de la tecnología de IA, el presidente Trump ha rechazado los llamados a fortalecer la regulación gubernamental de la IA. Ha rechazado los intentos de promover las directrices de IA del G20 como una "solución globalista" y prefiere la autorregulación por parte de la industria tecnológica.
Gates cree que la autorregulación de la industria no funcionará: "Una vez que participan varias empresas, la responsabilidad de resolver este problema sólo puede ascender al nivel gubernamental".
Hizo un llamado al gobierno para que establezca puntos de referencia para los mecanismos de monitoreo y protección de seguridad integrados en los modelos de IA, lidere acciones globales para investigar las vulnerabilidades de la red y cree un sistema de monitoreo a gran escala que abarque el aire, las aguas residuales y la sangre para detectar posibles infecciones causadas por la IA lo antes posible.
Gates recibió la versión preliminar de ChatGPT de OpenAI por adelantado en 2022. Reveló que OpenAI y Anthropic probablemente lanzarán nuevos modelos este año y que habrá "dos lanzamientos importantes" en 2027.
Añadió que a medida que estos nuevos modelos entren en funcionamiento, "el hecho de que el modelo pierda el control" se convertirá en un problema grave en el futuro cercano. Gates defendió que el gobierno necesita mejorar aún más el mecanismo de seguridad y realizar auditorías de nuevos modelos por parte de terceros.
También pidió acelerar la exploración del valor positivo de la IA, como la investigación y el desarrollo de fármacos y acortar los tiempos de espera en los hospitales: "Estos beneficios no se producirán de forma natural".
Gates también expresó su apoyo a gravar a los multimillonarios y a los grupos de ingresos ultra altos. En el contexto de la profunda transformación de la sociedad por parte de la IA, esta declaración equivale a expresar apoyo a la propuesta de referéndum sobre el “impuesto a los ricos” de California. Según los resultados preliminares del recuento de votos del martes en las elecciones intermedias de Estados Unidos, es probable que esta propuesta sea rechazada.
Afirmó los compromisos filantrópicos de los cofundadores de OpenAI y Anthropic, y dijo que se está comunicando y cooperando con ellos para "garantizar que estos fondos desempeñen un papel enorme en muchos campos, como la salud global".
Comentarios