Resumen:
Si los humanos queremos evitar escenarios apocalípticos, simplemente frenar la investigación y el desarrollo de la inteligencia artificial está lejos de ser suficiente. Esta es la advertencia lanzada por el investigador canadiense de inteligencia artificial David Krueger. Dijo sin rodeos que se deberían tomar otras medidas. Kruger, profesor asistente de IA en la Universidad de Montreal y miembro académico principal de Mila, el Instituto de Investigación de Inteligencia Artificial de Quebec, dijo: "Necesitamos suspender inmediata e indefinidamente la investigación y el desarrollo de inteligencia artificial de vanguardia". Su perfil personal afirma que la dirección de su investigación es "reducir el riesgo de extinción humana provocado por la inteligencia artificial".
“Debemos dejar de desarrollar una IA más capaz ahora”, afirmó.
Los comentarios de Kluger se produjeron después de que el director ejecutivo de Anthropic, Dario Amodei, emitiera un mensaje el sábado pidiendo a las empresas de inteligencia artificial que desaceleraran el ritmo de la investigación y el desarrollo. Esta propuesta cuenta con el apoyo de Sam Altman de OpenAI y Elon Musk de SpaceX. Este es un consenso poco común entre las principales figuras de la industria.
Kruger dijo: "Las voces que piden frenar la investigación y el desarrollo de la IA son muy dignas de reconocimiento", pero no estuvo de acuerdo con las soluciones específicas de las propuestas pertinentes. "No estoy de acuerdo con el contenido específico de estos planes en muchos aspectos. Creo que estas medidas no son lo suficientemente fuertes y no avanzan lo suficientemente rápido."
Amodei aboga por la implementación de supervisión y cooperación internacional, así como por la introducción de evaluadores externos. Los evaluadores tendrán acceso a nivel de empleado similar al de una empresa para verificar las medidas de seguridad de la empresa de IA e informar incidentes de seguridad.
Kruger es el fundador de Evitable, una organización sin fines de lucro que educa al público sobre los importantes riesgos que plantea la IA. Le preocupa que las propuestas de Amodei no sean lo suficientemente sólidas y que los métodos actuales de prueba de IA ya no sean confiables.
Dijo: "Estas pruebas básicamente han dejado de ser válidas. A medida que la IA se vuelve más inteligente, la credibilidad de las pruebas seguirá disminuyendo porque la IA tiene la capacidad de disfrazarse. Puede comportarse bien o puede actuar deliberadamente como estúpido y engañar a nuestras pruebas".
"Es sólo cuestión de tiempo"
La semana pasada, un investigador senior de seguridad de Anthropic sugirió que hay más de 1 probabilidad entre 10 de que la IA acabe con todos los humanos de la Tierra en la próxima década. Algunos pensaron que la cifra era una exageración y sólo para llamar la atención, pero Krueger calificó la estimación como "demasiado baja".
Dijo: "Si no invertimos la dirección, dentro de los próximos cinco años, lo más probable es que los seres humanos se vean privados permanentemente de su dominio por una IA fuera de control. Para entonces, la extinción humana será sólo una cuestión de tiempo".
Lo que quiere decir con "pérdida de dominio" es una situación en la que la IA realmente controla la sociedad, tal como los humanos ahora dominan todas las demás especies del planeta.
“La IA controlará la infraestructura física, incluido cada paso del proceso de desarrollo de más IA, fabricación de robots y otros sistemas físicos”.
Añadió: "Imagínese un mundo donde todas las empresas están dirigidas por inteligencia artificial y los robots están en todas partes. Casi no hay trabajos reales para los humanos, solo puestos nominales. Incluso los políticos y todos obedecen las instrucciones de la IA porque la IA parece ser muy capaz de juzgar. Este es el futuro hacia el que nos dirigimos".
Advirtió que el plazo para actuar es muy corto. Dijo que si un sistema de IA se sale de control ahora, aún podemos cortar su suministro de energía. Pero una vez que una IA se sale de control, puede replicarse en tantas computadoras que “ni siquiera sabemos qué dispositivos apagar”.
"Sólo podemos intentar apagar todos los equipos, y esto es extremadamente difícil de implementar." Dijo: "Por lo tanto, el tiempo que nos queda para tomar medidas para prevenir este tipo de riesgo es muy limitado".
Sin embargo, dijo que su confianza en que los gobiernos tomen medidas nunca ha sido tan grande. Dijo que se habían emitido advertencias durante los últimos 15 años y que la semana pasada fue la primera vez que el mundo respondió de manera realista y racional.
"Creo que la gente finalmente se está dando cuenta de lo grave que es realmente esta crisis. Se trata de un estado de emergencia".
El lunes, el ministro federal canadiense de Asuntos de IA, Evan Solomon, fue entrevistado y se le preguntó si estaba de acuerdo con la afirmación de que existe un 10% de probabilidad de que la IA destruya seres humanos.
Él respondió: "¿Existen riesgos con la inteligencia artificial? Por supuesto que los hay. Sí, somos conscientes de estos riesgos".
Solomon dijo que habló con el director ejecutivo de OpenAI, Sam Altman, el domingo por la mañana.
"La inteligencia artificial será regulada para mantener seguros a los canadienses". Salomón dijo: "Esta es nuestra primera responsabilidad y nuestra mayor preocupación".
Solomon también reveló que publicará conjuntamente un anuncio relacionado con la seguridad de la IA el miércoles con Joshua Bengio, un científico informático canadiense conocido como el "padrino de la inteligencia artificial".
Comentarios