Resumen:
Paul Cristiano, un conocido investigador de seguridad de IA y miembro de la junta directiva de OpenAI Holdings, emitió una advertencia sobre las perspectivas de desarrollo de la inteligencia artificial en una entrevista con un popular podcast de tecnología. Dijo que la posibilidad de que los humanos pierdan por completo el control de la IA en el futuro está aumentando rápidamente.

Este podcast se transmite los lunes y está presentado por Devaksh Patel. "Existe una posibilidad razonable de que pueda ocurrir un desastre en los próximos seis meses que mataría a un gran número de personas o derrocaría al gobierno", dijo Cristiano en el programa. El podcast suele tener millones de oyentes, incluidas muchas personas de la industria tecnológica.
Cristiano dijo que si los eventos anteriores ocurrirán depende de la velocidad de la iteración de la tecnología de IA. También propuso que, impulsados por tecnología recursiva de automejora, los modelos de IA pueden lograr actualizaciones de autoiteración, y la probabilidad de desarrollarse hasta un punto crítico peligroso durante el próximo año es "bastante alta".
En comparación con los comentarios públicos anteriores de Cristiano, esta declaración representa una mayor escalada de advertencia. También dirige el Centro para la Investigación de la Alineación, una organización sin fines de lucro con sede en Berkeley que se centra en la investigación de la alineación de la IA. Como investigador senior que lleva mucho tiempo advirtiendo sobre los riesgos de seguridad de la IA, en septiembre se unió a la junta directiva de la Fundación OpenAI, que controla la empresa. Cristiano enfatizó en la entrevista que su discurso sólo representa su posición personal y no representa las opiniones de la junta directiva de OpenAI.
Cuando se unió por primera vez a la junta directiva, Cristiano publicó un artículo público estimando que el riesgo de eventos catastróficos causados por la pérdida de control de la IA por parte de los humanos en el próximo año es de aproximadamente el 4%.
En una entrevista el lunes, dijo que las capacidades del modelo han progresado rápidamente en los últimos meses, y ahora evalúa que el riesgo de que la IA se apodere de los humanos en el próximo año está "más cerca del 10%, no del 1%". Dijo que si las grandes empresas no toman más medidas de protección para mitigar los riesgos causados por el desarrollo de la IA, la estimación del riesgo será "significativamente mayor".
Comentarios