Resumen:
Nate Suarez, director del Machine Intelligence Research Institute (MIRI), declaró recientemente en una entrevista organizada por Nicholas Thompson, director ejecutivo de The Atlantic Monthly, que cree que hay más del 50% de posibilidades de que la inteligencia artificial avanzada conduzca a la extinción humana en menos de diez años. También reveló que ya no ahorra para la jubilación: aunque todavía conserva la cuenta de jubilación 401(k) que abrió mientras trabajaba en Google, no ha seguido haciendo contribuciones durante diez años.
Suárez ha estudiado durante mucho tiempo el problema de la alineación de la inteligencia artificial, es decir, hacer que el comportamiento de potentes sistemas de IA se ajuste a las intenciones humanas. Ha trabajado como ingeniero en Google y Microsoft y es coautor de Si alguien lo hiciera, todos morirían. Su preocupación sobre el riesgo no es que la IA odie a los humanos, sino que a un sistema superinteligente simplemente no le importe si los humanos sobreviven; Si los humanos se interponen en el camino de sus objetivos, o intentan cerrarlo y desarrollar sistemas competitivos, los humanos pueden ser vistos como un obstáculo.
En la ruta de riesgo que imaginó, la clave no es sólo si la IA puede lanzar ataques, sino si puede volverse autosuficiente: si el sistema puede obtener energía, chips y otros recursos de forma independiente, y establecer una infraestructura automatizada que ya no dependa de los humanos, la capacidad de los humanos para controlarla puede disminuir. Suárez describió que la gente puede no saber de antemano las formas específicas en que la superinteligencia causará un desastre, pero aun así pueden juzgar que se enfrentan a un oponente muy poderoso.
Abogó por que el gobierno deje de entrenar sistemas generales de inteligencia artificial y cambie el enfoque de la investigación y el desarrollo hacia usos específicos, como la investigación del cáncer y la conducción autónoma más segura. También dijo que los desastres no son inevitables y que todavía está haciendo todo lo posible para evitarlo. La solución que enfatizó no fue crear un sistema que pudiera matar a todos.
El juicio de Suárez es una evaluación de riesgo personal, no una predicción científica comprobada, ni representa un consenso unificado entre los investigadores de inteligencia artificial. Su afirmación de que ha dejado de aumentar sus ahorros para la jubilación refleja su visión de los riesgos futuros y no debe interpretarse como un consejo sobre las decisiones financieras de otros.
Comentarios