MitosDespués del incidente del modelo, un enfoque regulatorio de laissez-faire era políticamente insostenible y estratégicamente imprudente.¿Deberían confiarse las tecnologías emergentes más disruptivas del mundo a unas pocas personas? Dario, Demis, Elon, Mark y Sam: estos cinco geeks son nombres conocidos sólo por su nombre, y tienen un control casi divino sobre los modelos de inteligencia artificial que darán forma al futuro.
Incluso cuando las capacidades de estos modelos se han vuelto asombrosas, la administración Trump ha optado por permanecer al margen, convencida de que la competencia sin restricciones entre empresas privadas es la mejor manera de garantizar que Estados Unidos venza a China en la carrera de la inteligencia artificial.
Ahora, la situación finalmente ha cambiado. La tradicional actitud de laissez-faire de Estados Unidos hacia la inteligencia artificial está llegando a su fin. La razón es que el rápido desarrollo de estos modelos también representa una amenaza para la propia seguridad nacional de Estados Unidos, lo que inquieta a los funcionarios de la administración Trump que antes estaban más preocupados por una regulación excesiva. Al mismo tiempo, los votantes estadounidenses están cada vez más insatisfechos y la inteligencia artificial se está convirtiendo en un punto de tensión política. El enfoque de laissez-faire no tiene cabida políticamente y de ninguna manera es una elección acertada desde el punto de vista estratégico.
El punto de inflexión se produjo el 7 de abril, cuando Anthropic lanzó el modelo Claude Mythos. El último logro de esta institución modelo de investigación y desarrollo tiene una capacidad asombrosa para explotar vulnerabilidades de software. Una vez que caiga en las manos equivocadas, representará una amenaza fatal para infraestructuras críticas como bancos y hospitales. Los modelos de IA también siguen creando otros riesgos, que van desde riesgos de bioseguridad hasta fraudes a gran escala.
El director ejecutivo de Anthropic, Dario Amodei, decidió sabiamente que el modelo Mythos era demasiado arriesgado para publicarlo. Solo lo abrió a unas 50 grandes empresas de los campos informático, de software y financiero para ayudarlas a fortalecer sus propios sistemas de defensa. El Secretario del Tesoro de Estados Unidos, Scott Bessant, quedó profundamente perturbado e inmediatamente convocó una reunión de emergencia de los principales bancos.
Esta no es la primera vez que este gobierno interviene. Hace apenas unas semanas, el Pentágono intervino después de que Amodei se negara a permitir que los modelos de Anthropic se utilizaran en armas totalmente autónomas y en vigilancia interna a gran escala. En ese momento, la administración Trump estaba igualmente alerta, simplemente porque una empresa en realidad tenía un dominio absoluto sobre esta tecnología que era el núcleo de la seguridad nacional.
La reacción de los votantes presionará aún más al gobierno para que intervenga. Las encuestas muestran que cada vez más políticos creen que la inteligencia artificial se convertirá en una de las cuestiones centrales en las elecciones de 2028. El pueblo estadounidense es mucho más escéptico con respecto a la inteligencia artificial que la gente de otros países. El setenta por ciento de los estadounidenses cree que la inteligencia artificial reducirá los empleos, un fuerte aumento con respecto a hace un año (y mucho antes de que tuvieran evidencia concreta). Aunque la inteligencia artificial tiene poco que ver con el aumento de los precios de la electricidad, la oposición popular a los centros de datos sigue creciendo. Recientemente, la casa del director ejecutivo de OpenAI, Sam Altman, fue atacada dos veces, lo que es un vívido reflejo del estado de ánimo de la época.
La historia muestra que para una tecnología como la inteligencia artificial que puede cambiar el mundo, tarde o temprano llegarán nodos clave como Mythos que desencadenan la opinión pública. Desde John D. Rockefeller hasta Henry Ford, las principales revoluciones industriales en Estados Unidos fueron dirigidas por un pequeño número de personas y, como resultado, acumularon un poder tremendo. En última instancia, los gobiernos del siglo XX intervinieron para controlar las industrias dominadas: desde las acciones antimonopolio que desintegraron a Standard Oil hasta la creación de la Reserva Federal y la desintegración de AT&T. Las divisiones sociales y la inquietud en aquella época no eran menores que las actuales. Nuestros cálculos muestran que el poder de estos “gigantes” en el campo de la inteligencia artificial no ha superado al de sus predecesores en la historia.
Pero la historia también muestra que controlar la inteligencia artificial está condenado a ser difícil. Por un lado, si se sale de control, las consecuencias serán desastrosas; por otro lado, la inteligencia artificial se está desarrollando de forma iterativa a la velocidad de la luz.
Las compensaciones son extremadamente agudas. La rápida difusión de la tecnología de inteligencia artificial promoverá el crecimiento económico, pero la resistencia pública puede conducir fácilmente a una regulación excesiva. Si se queda de brazos cruzados y no hace nada, Estados Unidos puede caer en el caos causado por el mal uso malicioso de la inteligencia artificial; sin embargo, una supervisión excesiva permitirá a China asegurarse la victoria en la competencia de inteligencia artificial. Ahora es un momento crítico rodeado de crisis.
El tiempo se acaba. Hace dos años, durante la administración Biden, gran parte del debate regulatorio se centró en los riesgos potenciales de la inteligencia artificial. Hoy en día, sus capacidades son alarmantemente poderosas y continúan actualizándose con cada actualización. La velocidad de la innovación significa que el debate sobre el papel de las funciones gubernamentales, que antes tardaba años o incluso décadas en aclararse, ahora debe responderse en cuestión de meses.
Y las barreras técnicas para cambiar a una ruta de intervención más activa son aún más enormes. Las medidas de control gubernamental, como la nacionalización, han tenido poco efecto porque los mejores ingenieros pueden moverse libremente entre empresas y la potencia informática se ha convertido en un recurso popular. Lo que es aún más grave es que las principales instituciones modelo de investigación y desarrollo están sólo unos meses por delante de sus competidores de código abierto (incluidas instituciones relacionadas en China). Tarde o temprano, las capacidades de estos modelos superiores se generalizarán.
Aun así, el incidente de Mythos puede ser una oportunidad para que comiencen a tomar forma soluciones viables de control de inteligencia artificial. Los usuarios confiables obtienen acceso temprano a los nuevos modelos más poderosos: después de Anthropic, OpenAI ha puesto sus últimas herramientas a disposición solo de un pequeño número de profesionales de ciberseguridad examinados. Antes de permitir la comercialización a gran escala de estos modelos, el gobierno puede exigir a las agencias líderes de la industria que completen pruebas de diferentes escenarios de aplicación y emitan certificaciones.
Esta idea es beneficiosa tanto para las principales instituciones de investigación y desarrollo de modelos como para el gobierno. No requiere un proceso largo para establecer una nueva agencia reguladora; solo está abierto a un pequeño número de usuarios de alto nivel y también permite a las instituciones modelo de investigación y desarrollo fijar precios más altos y asignar racionalmente los escasos recursos informáticos. Al mismo tiempo, el gobierno puede limitar quién puede utilizar los mejores modelos para reducir el riesgo de que China copie la tecnología y acelere su recuperación.
Pero el plan también tiene defectos fatales. Las conferencias de prensa limitadas debilitan la competencia y fortalecen la posición de monopolio de los gigantes de la inteligencia artificial existentes; Retrasarán la popularización de los dividendos de la inteligencia artificial, formarán un sistema de dos niveles dentro de la economía estadounidense y pondrán en desventaja a muchas empresas que no tienen la oportunidad de obtener primero los mejores modelos nuevos. ¿Qué debemos hacer si la construcción de un sistema de defensa con inteligencia artificial lleva mucho tiempo o incluso resulta imposible de lograr? ¿Cómo debería estandarizarse el modelo de código abierto? ¿Cómo obligarlos a cumplir las normas pertinentes?
Un sistema regulatorio construido sobre esta base puede no ser justo. Las empresas dentro del círculo pueden resistir riesgos fronterizos, mientras que las empresas fuera del círculo sólo pueden resignarse al destino. El espacio para el lobby y la búsqueda de beneficios se ampliará infinitamente. Para el gobierno más corrupto de la historia política estadounidense moderna, esto es sin duda una dura prueba de su integridad y capacidad de gobernar. Esta solución, que concentra aún más el poder y la riqueza en manos de unos pocos "gigantes" de la inteligencia artificial, puede intensificar la reacción política que ya preocupa a Washington.
Además, el patrón Mythos sólo resuelve, en el mejor de los casos, la mitad del problema. La seguridad de la inteligencia artificial no puede ser garantizada por un solo país. En última instancia, la cooperación internacional es imperativa y el punto de partida de esa cooperación es China. Si bien nos centramos en la seguridad de las redes, también es urgente pensar profundamente en el impacto de la inteligencia artificial en la economía y la sociedad. Todavía no existen soluciones apropiadas para estos grandes problemas, como hacer frente al impacto en el empleo, construir un sistema fiscal que sea adecuado para la era de la inteligencia artificial y inclinarse hacia la fuerza laboral. La situación debe cambiar. El incidente de Mythos es una llamada de atención para la seguridad de la inteligencia artificial y también obliga a todos los ámbitos de la vida a pensar profundamente en otros campos.