Resumen:
Jeffrey Hinton, conocido como el "padrino de la IA" y ganador del Premio Nobel, hizo una dura advertencia en una entrevista con The Guardian.
Cree que este año o el próximo puede ocurrir un accidente importante de la magnitud de Chernobyl en el campo de la IA
.
Hinton comparó la intrusión del agente OpenAI de este verano en la plataforma Hugging Face con el accidente de Three Mile Island en la historia de la seguridad nuclear. Fue una peligrosa señal de alerta temprana, pero no fue un verdadero desastre.
El llamado "Chernobyl" en el mundo de la IA no es que la IA se rebele de forma autónoma y aniquile a la humanidad en las películas de ciencia ficción, sino que los piratas informáticos la utilizan para lanzar ciberataques a infraestructuras críticas. El escenario más típico es provocar un corte de energía a gran escala y de larga duración, o paralizar el sistema financiero global durante una semana, afectando directamente el orden de los medios de vida de las personas.
.En la entrevista, Hinton declaró sin rodeos que no era optimista sobre la actitud de riesgo de la dirección de las principales empresas de IA y criticó a Altman de OpenAI, Zuckerberg de Meta, Musk y otros.
Hinton dijo que eran conscientes de los enormes peligros ocultos detrás de la IA, pero frente a la competencia y los intereses empresariales, no prestaron suficiente atención. Cada empresa sólo se centró en competir por las capacidades del modelo y apoderarse del mercado.
Cabe señalar que Hinton no está en contra de la IA.
Él cree que la IA es un arma de doble filo. Reconoce que tiene un gran valor positivo y puede traer un futuro brillante a la humanidad. Sin embargo, una vez que ocurre un accidente grave, las personas pueden lamentar no haber inventado esta tecnología en primer lugar
.En su opinión, los próximos diez años serán un período crítico para la humanidad. La humanidad eventualmente verificará si puede controlar los riesgos de la IA.
Entonces, ¿cómo prevenir riesgos? La solución dada por Hinton también es muy clara:
Para los modelos grandes de vanguardia, se deben implementar pruebas de seguridad obligatorias y evaluaciones independientes de terceros para promover el establecimiento de estándares unificados de seguridad de IA en todos los países y utilizar restricciones regulatorias para funcionar sin control.
.
Comentarios