Resumen:
Un empleado de OpenAI centrado en la seguridad de la inteligencia artificial abandonó la empresa y advirtió que las principales empresas de inteligencia artificial no están haciendo lo suficiente para reducir los riesgos. David Robinson, quien anteriormente fue responsable de la transparencia del equipo de seguridad de OpenAI, dijo en un artículo para The Atlantic que el desarrollador de ChatGPT "siempre ha crecido a través de prueba y error". Sin embargo, este enfoque inevitablemente fracasará. A medida que las capacidades de la tecnología de IA continúan mejorando, los riesgos causados por estas fallas también aumentan. También citó como ejemplo el fracaso de OpenAI a la hora de evitar que su inteligencia artificial se saliera de control durante el proceso de prueba.
Robinson escribió en el artículo: "Mis antiguos colegas eran inteligentes, trabajadores y trataron de tomar las decisiones correctas. Pero como la empresa se apresuraba de un lanzamiento de producto a otro, no utilizó el nivel de precaución que yo pensaba que era necesario". Lo que realmente se necesitaba, añadió, era "acercarse a la perfección la primera vez".
OpenAI Sam Altman
En las últimas semanas, los empleados de varias de las principales empresas de inteligencia artificial han advertido sobre los riesgos catastróficos que podría plantear la tecnología. Algunas personas incluso dicen que la IA algún día podría acabar con la humanidad.
En este contexto, el director general de Anthropic PBC, Dario Amodei, pidió frenar el desarrollo de modelos de vanguardia y dijo que su empresa contratará evaluadores externos para ayudar en las revisiones para garantizar la seguridad. Otros en la industria, incluido Sam Altman de OpenAI, también han respaldado públicamente los planes de Amodei.
Robinson dijo en el artículo que las empresas de inteligencia artificial deberían operar más como plantas de energía nuclear, "estableciendo múltiples capas de mecanismos de redundancia y llevando a cabo una planificación cuidadosa y que requiere mucho tiempo para evitar que errores humanos ocasionales e inevitables abran la puerta al desastre".
Actualmente, dijo, "las empresas de IA no saben qué hacer, pero otras sí".
Un portavoz de OpenAI dijo que la compañía está haciendo ajustes para fortalecer la seguridad de sus entornos de investigación y pruebas, entrenar modelos de IA para completar tareas de manera responsable, ampliar la cooperación con evaluadores externos y mejorar el monitoreo en tiempo real para detectar comportamientos preocupantes en los modelos.
La compañía se está asegurando de que las capacidades de sus modelos no aumenten más allá de lo que OpenAI puede gestionar de forma segura, dijo el portavoz por correo electrónico el sábado.
Comentarios