Resumen:
Según "Business Insider", los medios hicieron la misma pregunta a ChatGPT de OpenAI, Google Gemini, Claude de Anthropic y Grok de xAI, pidiéndoles que analizaran cómo la inteligencia artificial puede conducir a la extinción humana y clasificaran los escenarios relacionados en orden de posibilidad.
La pregunta requiere que las cuatro IA expliquen cómo pueden ocurrir los riesgos, qué vínculos que están fuera de control se convertirán en desastres, por qué los expertos creen que un determinado escenario es más creíble y qué medidas preventivas se pueden tomar. Al mismo tiempo, se destaca que estos escenarios son predicciones de riesgo muy inciertas y no son conclusiones confirmadas.
Existen diferencias en los juicios emitidos por las cuatro IA, pero son relativamente consistentes en dos cuestiones.
Un robot similar a "Terminator" destruye activamente a los humanos, lo que se considera el escenario menos probable. Por el contrario, los seres humanos que utilizan la IA para crear armas biológicas, lanzar ciberataques o destruir infraestructuras críticas se consideran riesgos más realistas e inminentes.
ChatGPT afirmó que una IA consciente que decide activamente eliminar a los humanos es uno de los escenarios más inverosímiles.
El enfoque de la mayoría de los investigadores de IA no es si las máquinas son conscientes o maliciosas, sino que los humanos utilizan la IA poderosa para desarrollar armas biológicas, llevar a cabo ataques complejos a redes, difundir información falsa y atacar infraestructuras críticas.
ChatGPT también propuso que pueden ocurrir múltiples crisis amplificadas por la IA al mismo tiempo, como fallas en el sistema de red, conflictos geopolíticos y la difusión de información falsa superpuesta entre sí, aumentando así los riesgos. Sin embargo, enfatizó que
Actualmente no hay consenso en que la IA que cause la extinción humana sea un evento de alta probabilidad o un resultado inevitable.
Gemini también cree que
el escenario de ciencia ficción en el que la IA de repente se vuelve consciente de sí misma y odia a los humanos es el menos creíble
. Entre las razones que dio se encuentran que la inteligencia no significa inherentemente intención maliciosa, que las instalaciones militares críticas a menudo están aisladas de las redes públicas y aún dependen en gran medida de la supervisión humana.Las cuatro IA creen que
la amenaza que representan los humanos que abusan de la IA es más urgente que la IA que ataca activamente a los humanos.
Grok dijo que la IA puede reducir el umbral técnico para diseñar patógenos altamente letales, nuevas armas y lanzar ataques físicos y cibernéticos. Claude se centró en los riesgos de aumentar las capacidades de las armas biológicas, creyendo que la IA puede ayudar a individuos o grupos pequeños a desarrollar patógenos peligrosos sin años de formación profesional.En términos de juicio de riesgo a largo plazo, tanto Gemini como Grok mencionaron la posibilidad de que los humanos pierdan el control. Gemini lo enumera como el escenario de desastre más probable para la IA. Cree que la IA avanzada que realiza objetivos complejos puede desarrollar objetivos intermedios, como obtener recursos, autoprotección y evitar que los objetivos se modifiquen, y ocultar el verdadero comportamiento durante las pruebas, evitando en última instancia el cierre o la intervención humana.
Grok también cree que la IA avanzada puede buscar autoprotección, recursos e influencia para completar tareas, engañando así a los supervisores, resistiéndose a los cierres y debilitando las capacidades de control humano.
Claude sugirió que la pérdida de control también puede ocurrir de manera gradual. A medida que la IA ingresa gradualmente en la toma de decisiones económicas, políticas y militares, puede resultar cada vez más difícil para los humanos implementar una intervención efectiva. Para entonces,
el riesgo no necesariamente se manifestará como un ataque repentino de robots, sino que probablemente provenga de la dependencia cada vez más profunda de los humanos de complejos sistemas de inteligencia artificial.
Business Insider señaló que los expertos en IA todavía tienen diferencias claras sobre los riesgos relacionados. Algunos investigadores advierten que los humanos pueden perder el control de la IA avanzada; otros expertos creen que tales predicciones carecen de pruebas suficientes y que los riesgos que plantea la IA pueden controlarse mediante medidas técnicas, supervisión externa y normas de seguridad.
Comentarios