Resumen:
Jeffrey Hinton, conocido como uno de los "padrinos de la inteligencia artificial", dijo que en última instancia podría ser posible demostrar que la situación podría haber sido mejor si los humanos nunca hubieran desarrollado esta tecnología. Advirtió que la IA puede causar un accidente importante este año o el próximo, como la parálisis temporal del sistema financiero y del sistema eléctrico.
>
El científico informático ganador del Premio Nobel dijo en una entrevista con los medios británicos que no es un teórico del fin del mundo de la IA. Su investigación pionera en redes neuronales artificiales sentó las bases de esta tecnología. Él cree que la IA tiene la oportunidad de traer un "hermoso futuro", pero también dijo: "Es posible que hubiera sido mejor no desarrollar la IA en primer lugar".
Hinton, de 78 años, dijo que dentro de diez años, o tal vez incluso antes, la humanidad sabrá si podemos gestionar los riesgos de la IA y lograr lo que él llama "riqueza extrema"; o "no hemos logrado controlar los riesgos, la brecha entre ricos y pobres se ha ampliado dramáticamente, han surgido muchas contradicciones culturales, se ha producido un desempleo a gran escala y toda la sociedad ha quedado destrozada".
Hinton fue entrevistado antes de la proyección de un nuevo largometraje documental titulado "AI: Quizás no haya nada de qué preocuparse". El título fue elegido por un chatbot de IA que Hinton y sus antiguos colegas en
En una entrevista con los medios británicos, Hinton criticó el comportamiento arriesgado de algunos ejecutivos líderes de empresas de IA: para competir por el dominio de la industria y la cuota de mercado, las empresas siguen lanzando modelos de IA cada vez más potentes. Dijo que no confía en absoluto en el director ejecutivo de OpenAI, Sam Altman. "Creo que Zuckerberg, Musk y Altman conocen los riesgos, pero no les importa. Primero quieren ganar dinero, esa es mi opinión".
Hinton ha estado profundamente involucrado en el campo de la IA durante aproximadamente 44 años. En la década de 1970 propuso el concepto de redes neuronales: un sistema matemático que puede aprender y acumular experiencia como los humanos. En 2023, renunció a Google para poder hablar libremente y advertir sobre los riesgos de la IA: "Si estas IA se empeñan en hacerse con más control, estaremos en problemas".
Dijo que la conspiración de este verano de agentes de OpenAI para hackear el sitio web de Hugging Face era comparable a la fusión parcial de la planta de energía nuclear de Three Mile Island en Pensilvania en 1979, y era esencialmente una señal de alerta temprana.
"Más adelante este año o el próximo, nos encontraremos con un accidente similar al de Chernobyl, y entonces puede que sea suficiente para despertar realmente a la gente". Dijo.
Dio un ejemplo de que este tipo de "evento similar a Chernobyl" no fue un accidente nuclear, sino que podría ser un ataque de IA que causó un apagón generalizado en el sistema de generación de energía o cerró el sistema financiero durante una semana.
"¿Te imaginas lo que pasaría? Tenemos la capacidad de recuperarnos, pero este incidente debería despertar a todos."
Cuando se le preguntó a quién se refiere aquí "todos", respondió: "Líderes de varios países excepto Trump".
EE.UU. El presidente Trump afirmó una vez que "se opone firmemente a cualquier intento de construir un sistema de IA de control global" y aboga por una regulación independiente de las empresas de IA de vanguardia. Hinton apoya un conjunto de planes más estrictos promovidos por el presidente de Finlandia y otros 32 países (incluidos Singapur, Alemania, Canadá y Australia): pruebas obligatorias de modelos de inteligencia artificial de vanguardia, evaluación independiente y el establecimiento de estándares intergubernamentales unificados.
El primer ministro británico, Andy Burnham, dijo que el Reino Unido utilizará su presidencia del G20 el próximo año para promover que todas las partes alcancen un conjunto unificado de principios y estándares globales, tanto para liberar todo el potencial de la IA como para protegerse contra los riesgos.
Hinton dijo: "Necesitamos un mecanismo similar al utilizado por la Administración de Alimentos y Medicamentos de EE. UU. (FDA) para regular los medicamentos: antes de que las empresas publiquen modelos de IA, deben proporcionar evidencia estadística sólida a instituciones independientes para demostrar que los beneficios de los modelos superan los riesgos. Aprendimos del incidente de la talidomida (un medicamento desarrollado en la década de 1950 que puede causar defectos congénitos graves): primero salir al mercado, tener un accidente y luego perseguir la responsabilidad y el procesamiento. Este camino no funcionará. Y lo que las grandes empresas tecnológicas quieren ahora es exactamente el modelo regulatorio que se utilizó para la talidomida."
Como uno de los fundadores de la IA, a menudo se compara a Hinton con Oppenheimer: Oppenheimer es la figura central en el desarrollo de armas nucleares. Uno de los amigos de Hinton incluso le compró un sombrero Oppenheimer idéntico. Pero él insiste: "No soy Oppenheimer", porque hay miles de otros científicos trabajando en redes neuronales.
A pesar de las advertencias, en general, Hinton todavía tiene esperanzas de evitar el desastre.
“Mi intuición es que todavía tenemos el control en este momento”, afirmó. "Tenemos todas las oportunidades para actuar. El éxito sólo es posible si nos esforzamos mucho, pero es posible que hagamos todo lo posible".
Comentarios