Resumen:
El 11 de septiembre, según "Business Insider", el "padrino de la IA", Geoffrey Hinton, dijo:
Es difícil estimar la probabilidad de que la IA acabe con todos los humanos, pero esta probabilidad no es cero.
Hinton dijo a la BBC Newsnight el miércoles: "Para mí,el 10 por ciento no parece una estimación escandalosa, pero en realidad nadie sabe cómo dar una estimación razonable.
”
Hinton
La presentadora de "Newsnight", Victoria Derbyshire, expresó su sorpresa porque Hinton básicamente estuvo de acuerdo con el juicio de Jacob Coxon, el principal investigador de seguridad de IA de Anthropic. El investigador dijo:
En los próximos 10 años, la IA "tiene una probabilidad de más del 10% de matar a todos los humanos"
."Vaya", dijo Derbyshire, "Dios mío".
Hinton dijo que es difícil estimar la probabilidad específica porque la sociedad humana nunca ha visto una tecnología que "pronto pueda ser más inteligente que nosotros".
“Sería una tontería decir que sólo hay una probabilidad del 1%”, afirmó. “Nadie sabe cómo estimarlo.”
Lo cierto, afirmó el premio Nobel, es que el período en el que podría ocurrir un desastre de este tipo se ha acortado. "Solía pensar que era de 30 a 50 años, y luego se redujo a 10 a 20 años", dijo. "Ahora creo que podrían ser 10 años, o incluso menos. Otros piensan que es mucho más rápido que eso".
En cuanto a cómo podría suceder esto, Hinton citó riesgos que van desde ataques cibernéticos hasta que la IA desarrolle virus mortales. Aunque Hinton no dijo por qué se acortó significativamente este cronograma, las principales empresas de inteligencia artificial, incluidas Anthropic y OpenAI, han invertido miles de millones de dólares en ampliar sus modelos, y sus productos lanzados recientemente han mostrado mejoras significativas con respecto a los modelos de hace apenas unos meses.
Los comentarios de Hinton se producen después de que el investigador de Anthropic Coxon anunciara su renuncia en vísperas de la tan esperada oferta pública inicial de la empresa. Coxon, que trabajó anteriormente en OpenAI, dijo que los gigantes de la IA están "jugando con nuestras vidas".
“Quienes desarrollan IA creen sinceramente que la IA podría matarnos a todos antes del final de esta década”, escribió Coxon en
Hinton dijo que los humanos pueden embarcarse en un camino de autodestrucción, o pueden encontrar formas de "lidiar con los peligros que plantea la IA" mientras se dan cuenta del potencial de la IA. Reiteró su llamado a una regulación global más estricta, señalando que si bien los países pueden no estar de acuerdo en todos los temas, todos comparten un deseo común de salvaguardar la supervivencia humana.
"Los países tienen el mismo interés en evitar que la IA reemplace a los humanos. Por lo tanto, eventualmente cooperarán. La pregunta es: ¿podrán tomar medidas a tiempo?" dijo.
Comentarios