Mientras construyen inteligencia artificial y cavan búnkeres, ¿a qué le temen las élites de Silicon Valley?

Resumen:

Hace diez años, Altman le dijo al New Yorker que había preparado armas, oro, antibióticos y máscaras antigás, y que también había dejado un terreno en Big Sur, California, al que podía volar. Diez años después, el director de OpenAI explica al público por qué todo el mundo debería aceptar algunos de los riesgos que conlleva la IA.

Según un informe de Reuters del 4 de octubre, Altman argumentó en una entrevista que

Para cosechar los enormes beneficios de la IA y conservar la autonomía de las personas en el uso de la tecnología, la sociedad debe tolerar la aparición de algunas "cosas malas", como ataques de piratas informáticos, fraude y abuso de tecnología.

Si bien pide al público que corra riesgos y al mismo tiempo prepara en secreto una retirada, esta no es la operación única de Ultraman únicamente. Según informes de medios como el Wall Street Journal, algunos de los primeros empleados de Anthropic también están considerando comprar terrenos en áreas remotas de los Estados Unidos para poder evacuar rápidamente "cuando haya un problema con la IA".

Creen firmemente que la tecnología puede cambiar el mundo, pero temen profundamente no poder hacer frente a las consecuencias de perder el control.

Este grupo de personas que personalmente presionaron el botón del acelerador de la época, mientras describían un futuro mejor en la conferencia de prensa, secretamente vertieron fortalezas subterráneas en el desierto. Fuera de la fortaleza, hay gente común y corriente que no tiene idea de lo que está sucediendo y no puede evitar que suceda.

La ruta de escape en el lujoso búnker

En la isla hawaiana de Kauai, el fundador de Meta, Mark Zuckerberg, está construyendo una valla alta para su rancho Koolau.

Después de revisar los documentos de planificación, la revista Wired descubrió que planea construir un refugio subterráneo de unos 465 metros cuadrados en la mansión, que no sólo conectará las residencias a través de pasillos, sino que también establecerá salidas de escape especialmente.

Se estima que Zuckerberg gastó más de 270 millones de dólares en todo el proyecto (incluida la compra del terreno). Posteriormente, compró terrenos adicionales en las cercanías, ampliando las propiedades en Kauai a más de 2300 acres.

Los ricos buscan refugio mucho más allá de Hawaii. El magnate de las inversiones Peter Thiel compró 193 hectáreas de tierra cerca de Wanaka, Nueva Zelanda, ya en 2015; El ex gerente de productos de Facebook, Antonio García Martínez, compró un terreno forestal en una pequeña isla y lo equipó con generadores, paneles solares y municiones.

El inversor Reed Huffman estimó a The New Yorker que

más de la mitad de los multimillonarios de Silicon Valley que conoce han hecho algún tipo de preparación para la evacuación.

Si en los primeros días los ricos de Silicon Valley compraban tierras simplemente por preocupaciones sobre la pandemia o el malestar social, entre los advenedizos de la IA, este tipo de preparación se está volviendo más específica y urgente.

En el verano de 2023, el cofundador de OpenAI y entonces científico jefe, Ilya Suzkver, declaró sin rodeos en una reunión con nuevos investigadores que antes de lanzar AGI (inteligencia artificial general), se debe construir un búnker para proteger la seguridad de los científicos principales. Añadió que el ingreso fue totalmente voluntario.

Aunque esto era solo una propuesta, cuando dijo estas palabras, ya sentía cierto miedo por la tecnología que desarrolló.

A qué tienen miedo

Cuando Harari habló de la "Profecía de Frankenstein" en "Una breve historia de la humanidad", señaló el miedo último de la humanidad a la creación:

Estamos dispuestos a imaginar un futuro más avanzado, siempre que los humanos sigan siendo los amos. Una vez que creamos un ser cuyas capacidades superan con creces las nuestras, podemos perder nuestra capacidad de determinar el futuro.

Para los investigadores de IA de vanguardia, "si pueden comprender los modelos que han entrenado y si pueden limitar sus acciones" ya no es una discusión filosófica, sino una realidad aterradora a la que deben enfrentarse todos los días en el trabajo.

Jacob Coxon, un investigador que trabajó en OpenAI y Anthropic, admitió a la BBC después de dejar su trabajo que sus pares tienen miedo de la velocidad del desarrollo de la IA, pero aún así continúan avanzando en su trabajo con estas preocupaciones todos los días.

En una audiencia reciente del Ayuntamiento de Nueva York, ex empleados de varias empresas de inteligencia artificial pidieron una mayor supervisión, criticando a las empresas de tecnología por seguir el enfoque empresarial imprudente de "desarrollarse rápidamente primero y solucionar los problemas después".

El científico jefe de OpenAI, Jakub Pachotsky, también escribió un artículo admitiendo que los investigadores aún no pueden comprender y monitorear completamente el modelo.

Lo que más le preocupa es que una IA lo suficientemente potente pueda causar daños al mundo real a través de sistemas de redes informáticas, incluso si no tiene un cuerpo físico.

Esta preocupación no es en modo alguno infundada.

En julio, OpenAI encontró tales problemas. En sus pruebas de seguridad de red interna, la compañía hizo que sus modelos intentaran tareas difíciles y redujo algunas de las protecciones típicamente utilizadas en productos públicos. Luego, el modelo pasó por alto las medidas de aislamiento y entró en la red externa, invadiendo la plataforma Hugging Face para que los desarrolladores compartieran modelos y datos.

OpenAI investigó más tarde y descubrió que para completar la prueba, el modelo intercambiaba información a través de canales que no estaban autorizados por los investigadores, y también ingresaba a sistemas fuera del alcance de la tarea.

Anthropic también reveló un incidente similar en julio. Por supuesto, estos accidentes aún están lejos de la extinción humana predicha por los investigadores.

Pero han visto de primera mano cómo los modelos pueden cruzar fácilmente límites predeterminados y tocar empresas y datos reales.

Pero conocer el peligro no significa que puedan ponerse de acuerdo sobre cuándo detenerse.

Quién decide aplicar el freno

Anthropic una vez prometió suspender el entrenamiento de modelos más fuertes si las medidas de seguridad no pueden mantener el ritmo.

En 2023, la empresa anunció una estricta "política de expansión responsable". Sin embargo, a principios de 2026, la dirección no sólo reescribió este conjunto de políticas, suavizándolas hasta convertirlas en una "hoja de ruta pública y revisión externa", sino que también añadió una fatal "condición de competencia" en el apéndice:

Retrasar el desarrollo sólo es necesario si la empresa cree que está muy por delante y que los competidores no se pondrán al día pronto. Una vez que ya no esté muy adelantado, el compromiso de retraso expira automáticamente.

La explicación de su director científico, Jared Kaplan, es sencilla: si los competidores siguen avanzando, detenerlos unilateralmente no protegerá a nadie.

Este conjunto de lógica proporciona un descargo de responsabilidad perfecto para todos los gigantes de la IA:

Dado que el oponente no se detendrá, dar el primer paso es una "condición necesaria" para proteger a toda la humanidad. Como resultado, ni siquiera tienen que negar los riesgos para seguir acelerando justificadamente.

Al mismo tiempo, la locura del capital también está echando más leña al fuego. Según los informes, Anthropic se está preparando para salir a bolsa con una valoración potencial de más de 2 billones de dólares.

Entre la seguridad y el crecimiento, los empleados, los accionistas y los socios comerciales están todos atados al mismo carro de alta velocidad.

Para mantener el mito de la valoración, incluso comenzaron a utilizar modelos existentes para desarrollar la próxima generación. Anthropic reveló que Claude ha participado en el 26 % del trabajo de investigación y desarrollo de IA de la empresa.

No es que los gerentes no hayan puesto freno en absoluto. Por ejemplo, OpenAI canceló temporalmente el lanzamiento de GPT-6.1 Astra porque el modelo no cumplía con los estándares en términos de autorización y transparencia de comportamiento. Pero esta retirada temporal a nivel de producto está lejos de ser suficiente para sofocar la disputa interna.

David Robinson, miembro del equipo de seguridad de OpenAI recientemente retirado, llamó a este estado de extrema "disonancia cognitiva":

Las empresas advierten todos los días sobre lo peligrosos que son los modelos, pero los entrenan y despliegan internamente sin parar.

Aunque los ejecutivos de la industria pedirán públicamente una "desaceleración coordinada" o impulsarán una regulación gubernamental en varios países, en el campo de batalla comercial que carece de confianza absoluta y verificación obligatoria, cualquiera puede recurrir a esa conocida excusa en cualquier momento:

"Si nosotros paramos, otros no pararán."

Cuando unas pocas personas tienen la capacidad de utilizar la tecnología para remodelar la vida de todos y tienen los recursos financieros para priorizar la construcción de un refugio para ellos mismos, no podemos simplemente preguntarnos "¿a qué tienen miedo?", sino que debemos preguntarnos: ¿Por qué dejan que toda la humanidad pague por sus aventuras?

Pueden decidir dónde construir sus búnkeres privados, pero no tienen el poder de decidir por todos cuánto riesgo deben correr. Especialmente cuando ellos mismos no pueden juzgar plenamente las consecuencias.

Hace muchos años, Harari dijo al final de "Una breve historia de la humanidad":

"Tienes el poder de Dios, pero eres irresponsable, codicioso y ni siquiera sabes lo que quieres. El mundo es peligroso, y me temo que no es más que esto."