Resumen:
El debate en la industria de la inteligencia artificial sobre "si se debe desacelerar la velocidad de desarrollo" se está intensificando rápidamente, y China ha sido empujada al centro de esta discusión. El director ejecutivo de Anthropic, Dario Amodei, declaró públicamente recientemente que si el mundo intenta establecer un límite de velocidad para el desarrollo de la inteligencia artificial, el mayor problema práctico no es la tecnología en sí, sino cómo abordar la posibilidad de que competidores como China sigan acelerando.
Amodei hizo la declaración anterior en una entrevista con los medios. No hace mucho, acababa de publicar un largo artículo que atrajo una atención generalizada, en el que pedía a la industria de la inteligencia artificial que redujera de forma proactiva la velocidad de mejora de las capacidades de los modelos de vanguardia para ganar más tiempo para la investigación de seguridad, los marcos de gobernanza y el control de riesgos. Él cree que el progreso de los modelos a gran escala en los últimos años ha superado significativamente las expectativas de muchas personas, especialmente después del surgimiento de la tendencia de que la inteligencia artificial participe en la investigación y el desarrollo de la inteligencia artificial, y la mejora de las capacidades técnicas se está acelerando.
Sin embargo, al hablar de la viabilidad práctica de esta idea, Amodei admitió que China es el "dilema más difícil" al que se enfrenta todo el plan. Dijo que si sólo algunos países o empresas optan por desacelerar mientras otros países continúan acelerando, entonces la parte que desacelere activamente puede estar en desventaja en términos de competencia tecnológica, intereses económicos e incluso ventajas militares.
Amodei cree que a largo plazo, la comunidad internacional debería tratar de cooperar para establecer algún tipo de "mecanismo de limitación de velocidad" para el desarrollo de la inteligencia artificial para evitar la competencia desordenada y promover capacidades tecnológicas para romper rápidamente la frontera de seguridad. Pero también dijo que esa cooperación es extremadamente difícil porque los beneficios estratégicos de ser el primero en adquirir capacidades avanzadas de inteligencia artificial son enormes. Admite que ni siquiera está seguro de que realmente se pueda lograr esa coordinación global, pero sigue creyendo que es necesario trabajar para lograrlo.
Esta declaración llega en un momento en que los problemas de seguridad de la inteligencia artificial han recibido atención continua. Recientemente, varios investigadores de Anthropic y OpenAI han expresado públicamente su preocupación de que la velocidad de desarrollo de los sistemas de inteligencia artificial esté superando el progreso de la investigación en seguridad. Algunos investigadores incluso han advertido que el riesgo de una pérdida grave de control en los próximos años puede ser mayor de lo que generalmente reconoce el público.
Antes de que Amodei hiciera su llamado a la desaceleración, el investigador de Anthropic Jacob Coxon ya había anunciado su partida y criticado públicamente la trayectoria de desarrollo actual de la industria de la IA. Él cree que los grandes laboratorios de IA están asumiendo riesgos demasiado altos y que este riesgo puede afectar a toda la sociedad humana.
Al mismo tiempo, la velocidad del desarrollo de la industria de inteligencia artificial de China en los últimos años también ha atraído gran atención por parte de la industria tecnológica estadounidense. En los últimos meses, los nuevos modelos lanzados por varias empresas chinas de inteligencia artificial han seguido reduciendo la brecha con los principales productos estadounidenses, intensificando aún más las discusiones en Silicon Valley sobre los cambios en el panorama competitivo global de la IA.
Al mismo tiempo que hablaba Amodei, los líderes chinos pidieron el establecimiento de un marco de gobernanza de inteligencia artificial global basado en el consenso en la cumbre BRICS y apoyaron la construcción de un sistema de cooperación de código abierto para la inteligencia artificial. Esto ha ido ampliando gradualmente la cuestión de la gobernanza de la inteligencia artificial desde el campo de la ciencia y la tecnología al nivel de la política y la diplomacia internacionales.
Los analistas señalaron que la industria de la inteligencia artificial se enfrenta actualmente a una contradicción sin precedentes. Por un lado, cada vez más empresas e investigadores piden reforzar la supervisión y frenar la expansión de las capacidades de vanguardia; por otro lado, los países no están dispuestos a quedarse atrás de sus competidores en esta carrera tecnológica que se considera de importancia estratégica.
Al mismo tiempo, dos de las principales empresas de inteligencia artificial de Estados Unidos, Anthropic y OpenAI, se encuentran en la etapa de preparación para cotizar en bolsa. A medida que continúa aumentando la atención de los mercados de capitales, la regulación gubernamental y la opinión pública, se espera que el debate sobre si la inteligencia artificial debe continuar avanzando a toda velocidad o desacelerarse de manera proactiva se intensifique aún más en los próximos meses.
Para Amodei, el núcleo del problema no es sólo si la tecnología puede volverse más fuerte, sino también si la sociedad humana puede establecer reglas correspondientes a una velocidad suficientemente rápida cuando la tecnología continúa volviéndose más fuerte. Entre todos los desafíos prácticos, cree que cómo abordar la competencia relacionada con China sigue siendo el más complejo y difícil de responder en esta discusión global sobre la gobernanza de la inteligencia artificial.
Artículos relacionados:
Anthropic acusa a varias empresas chinas de inteligencia artificial de destilación a gran escala. Alibaba, Dark Side of the Moon y DeepSeek son acusados de decenas de millones de interacciones
Comentarios