Resumen:
Recientemente, Musk emitió una advertencia en un evento: "Sería una lástima que la IA pudiera controlar sistemas militares y lanzar bombas nucleares".
Durante el intercambio en el lugar, alguien sugirió que la mayoría de las instalaciones militares están físicamente aisladas y no conectadas a Internet, por lo que la probabilidad de ser invadida por la IA es baja.
Pero Musk no está de acuerdo con esta opinión. Dijo que incluso si el sistema está físicamente aislado de la red, el equipo seguirá recibiendo actualizaciones periódicas de software. Este proceso puede dejar agujeros de seguridad y dar a la IA la oportunidad de intervenir en sistemas militares clave. Una vez que la IA obtenga la autoridad para operar armas nucleares, tendrá consecuencias catastróficas para toda la humanidad.
Musk no es el único que se preocupa por la inteligencia artificial.
Jacob Coxon, un investigador de IA que acaba de dimitir de Anthropic, reveló que muchos profesionales en la primera línea de las empresas de IA están llenos de inquietud real. Sienten pánico desde el fondo de su corazón y están muy preocupados por el destino impredecible que enfrentará la humanidad en los próximos dos años.
El CEO de Anthropic también reclamó públicamente la necesidad de frenar adecuadamente el ritmo de investigación y desarrollo de modelos de IA de última generación. También propuso direcciones como implementar una supervisión independiente, establecer normas industriales y promover un consenso regulatorio global para frenar el desarrollo de la IA de alto riesgo. El responsable de OpenAI también expresó públicamente su apoyo al necesario control del desarrollo de la IA.
Comentarios