Resumen:
¿Sabías que incluso en comparación con las epidemias, el clima, la guerra y las amenazas nucleares, lo que más probablemente destruirá a la humanidad antes de 2100 es la IA? Esta sorprendente conclusión proviene del informe autorizado de The Lancet. The Lancet escribió en el informe del comité "Amenazas a la salud global en el siglo XXI" publicado el 11 de octubre que entre 17 amenazas, incluidos el cambio climático, las epidemias y la contaminación, los conflictos nucleares y el uso malicioso de la inteligencia artificial ocupaban el primer lugar y podrían conducir a la extinción humana antes de 2100.
Este informe fue escrito por 35 expertos de primer nivel y el estudio completo cubrió 204 países y regiones de todo el mundo. El informe también recordó que estas amenazas pueden interactuar y amplificarse entre sí.
La parte más escalofriante del informe es que, aunque la IA y los conflictos nucleares son los principales problemas para destruir a la humanidad, el daño causado por la IA supera con creces el de los conflictos nucleares.
Si Amoudi dijera esto sobre el fin de la IA, tal vez lo escucharía por diversión. Después de todo, ya hay tantas palabras similares que casi se me ponen callos los oídos.
Pero esta vez lo dijo The Lancet y me asusté mucho.
¿Qué dice The Lancet?
El informe de Lancet fue dirigido por el Instituto de Evaluación y Medición de la Salud (IHME) de la Universidad de Washington. Organizaron las amenazas que pueden afectar la salud humana en los próximos 75 años en una "pirámide de amenazas" en orden de gravedad, con una categoría separada en la parte superior:
Amenazas que podrían llevar a la extinción humana antes del 2100.
Solo hay dos cosas en esta categoría, una es la "hambruna nuclear" causada por un conflicto nuclear y la otra es el uso malicioso de la inteligencia artificial.
Ni siquiera los asteroides que chocan contra la Tierra y las supererupciones volcánicas han alcanzado la cima de la pirámide porque el comité considera que la probabilidad de que ocurran en los próximos 75 años es "extremadamente baja".
Pero esto no significa que "la IA definitivamente exterminará a la humanidad".
El texto original del informe afirma que "la posibilidad de que ocurran estos dos tipos de riesgos es aún muy baja", pero una vez que ocurran, las consecuencias serán a nivel humano.
Hay una unidad en el informe llamada AVAD, que significa "Años de vida ajustados por discapacidad". En pocas palabras, es el número total de años de vida saludable que pierde una persona debido a una enfermedad, discapacidad o muerte prematura.
El comité lo utilizó para medir cuánta "pérdida de vidas saludables" causaría cada amenaza en última instancia para el año 2100.
El uso malicioso de la IA puede causar pérdidas de aproximadamente 10,4 mil millones de AVAD para 2100, lo que equivale aproximadamente a la misma escala que la obesidad. Un conflicto nuclear causaría aproximadamente 133 millones de muertes y una pérdida de aproximadamente 9.350 millones de AVAD.
The Lancet cree que la IA es más peligrosa que las armas nucleares. El comité hizo todo lo posible para enfatizar que esto fue diseñado para medir "palancas accionables" en lugar de resaltar el resultado más trágico.
Entonces, ¿cómo nos "extermina" la IA? ¿Es Skynet de "Terminator"? ¿O MOSS de "La Tierra Errante"?
Ninguno de los dos. The Lancet cree que sólo hay un camino para que la IA destruya a la humanidad: las armas biológicas.
Algunas personas utilizan la IA de forma maliciosa para diseñar o modificar patógenos o toxinas que pueden causar víctimas masivas.
El argumento de The Lancet es que la IA está reduciendo el umbral para hacer cosas peligrosas.
En el pasado, modificar un virus requería laboratorios de primer nivel, equipos costosos, así como la "sensación" y el conocimiento tácito acumulado por los investigadores a lo largo de los años. Lo que puede hacer el gran modelo es ayudar a las personas a buscar literatura, diseñar planes experimentales, escribir materiales de aplicación y explicar por qué se realiza cada paso.
El 10 de septiembre de 2026, Anthropic publicó un informe de inteligencia sobre amenazas, que reveló varios tipos de abuso que interceptaron entre diciembre de 2025 y agosto de 2026. Entre ellos, hubo 5 casos en los que los usuarios utilizaron a Claude de una manera que "podría apoyar el desarrollo de armas biológicas":
• En mayo de este año, alguien le pidió a Claude que le ayudara a redactar una solicitud de subvención para estudiar qué mutaciones en el virus chikungunya podrían hacer que se propagara más eficientemente y escapara del sistema inmunológico más fácilmente.
• Algunas personas lo utilizan para planificar experimentos para hacer que los virus de la influenza aviar altamente patógenos sean más adaptables a los huéspedes mamíferos.
• Se redactó una propuesta para estudiar cómo alterar la virulencia de la familia de los ortopoxvirus, a la que pertenecen la viruela y la viruela simica.
• Alguien estaba trabajando en un proyecto de desarrollo de fármacos para compilar un mapa de toxinas venenosas.
• Otro investigador utilizó a Claude para ayudar con el rediseño informático de un conjunto de toxinas, incluida una toxina bacteriana y una proteína de un virus que amenaza una enfermedad importante, y utilizó deliberadamente términos vagos para referirse a estas toxinas al escribir informes de progreso.
Por lo tanto, el mal uso de la IA definitivamente causará un daño considerable a toda la raza humana.
La teoría del fin del mundo de la IA se ha dividido en dos bandos
De hecho, antes de que saliera el informe de Lancet, todos los meses aparecían teorías apocalípticas sobre la IA. Por ejemplo, en septiembre, todos los ámbitos de la vida debatían si la IA traería el fin del mundo.
El 8 de septiembre, el ex investigador de Anthropic Jacob Coxon anunció su renuncia y declaró públicamente que tanto OpenAI como Anthropic estaban "apostando por vidas humanas" y que la IA "podría matarnos a todos antes del final de esta década". La publicación recibió más de 100 millones de visitas en un corto período de tiempo.
Al día siguiente, Evan Hubinger, jefe de ciencia de alineación en Anthropic, escribió: "Creemos seriamente que la IA puede matar a todos, y personalmente creo que la probabilidad es de más del 10 % en los próximos diez años".
El padrino de AI, Hinton, dijo más tarde que la cifra del 10% “no era escandalosa”.
Tres días después, Amoudi ofreció una declaración más específica. Cree que en un plazo de 6 a 12 meses, un grupo de agentes puede apoderarse de todo Internet, provocando pérdidas por cientos de miles de millones de dólares.
Ultraman y Musk, dos enemigos jurados, están en el mismo frente y apoyan "reducir el ritmo del desarrollo de la IA".
Aunque la potencia de fuego del lado positivo es feroz, la fuerza del lado negativo tampoco es débil.
Huang Renxun mencionó en la entrevista que la probabilidad de que la IA destruya el mundo antes de 2030 es del 0%. Cree que el "10% de probabilidad de que la IA mate a todos" mencionado por Evan no tiene base científica y es una intuición "irresponsable".
"La IA que no pueda controlarse de forma segura no debe liberarse." Dijo Huang Renxun.
Heidy Khlaaf, científica jefe del AI Now Institute, cree que ya sea el 10% o el 20%, "no es ni falsificable ni verificable, por lo que es inherentemente poco científico".
El científico cognitivo Gary Marcus dijo que la idea de que "agentes se apoderen de Internet" es "ridícula".
Su razón es que la mayor parte de la infraestructura subyacente de Internet está en manos de grandes empresas como Cloudflare, Google y Amazon AWS. Sin la intervención de las fuerzas gubernamentales, es difícil imaginar que serán violadas o controladas durante mucho tiempo.
También citó un informe de evaluación del Instituto Británico de Investigación de Seguridad de IA de que el modelo Mythos más poderoso de Anthropic solo podía penetrar en sistemas "pequeños y débilmente protegidos" de forma independiente. Mientras la otra parte mejore la protección de seguridad de su red, Mythos estará indefenso.
Mirando juntos, encontraréis un aspecto muy interesante de este debate:
El lado afirmativo habla de "consecuencias", mientras que el lado negativo habla de "evidencias".
Por un lado, usted enfatiza que mientras la probabilidad no sea cero, las consecuencias son insoportables; por otro lado, usted enfatiza que ni siquiera puede explicar cómo calculó esta probabilidad, entonces ¿por qué debería poner nervioso al mundo entero?
Además, aunque Amodei y Altman abogaron por reducir el ritmo, los medios los acusaron de construirse un foso en nombre de la seguridad para evitar la entrada de competidores posteriores.
Los círculos académicos apoyan más a Zheng Fang.
Por ejemplo, el artículo "¿Cómo puede la IA acabar con los humanos?" En el "Análisis del modo de fallo de los riesgos de la civilización" (arXiv:2610.08878) se menciona que
los riesgos catastróficos de la IA no requieren que la IA sea consciente, hostil o tenga una clara intención de causar daño.
El riesgo puede surgir a través de varios caminos entrelazados: inexactitud autónoma, uso malicioso por parte de humanos, fallas organizacionales y despliegue competitivo. El autor también afirmó específicamente que el documento es "no operativo" y sólo analiza las causas y no proporciona métodos para hacer el mal.
Pero hasta ahora, nadie ha "ganado" realmente este debate.
Comentarios