El 13 de mayo, Business Insider informó que Daniel Kokotajlo, ex investigador de OpenAI y actual jefe del Proyecto AI Futures, dijo que la industria de la IA está compitiendo para construir sistemas que cada empresa aún no comprende ni controla completamente.
Subtítulo: Kokotailo
En una entrevista con un periodista de "Business Insider" en mayo del año pasado, Cocotailo explicó que el problema central que enfrentan las empresas de IA es el problema de la "alineación", es decir, los esfuerzos para garantizar que los futuros sistemas de IA puedan seguir de manera confiable las instrucciones y valores humanos, incluso si sus capacidades en muchos campos han superado a los humanos.
Dijo que los investigadores actualmente no comprenden completamente cómo los modelos avanzados de IA toman decisiones internamente, y esta incertidumbre dificulta garantizar que los sistemas futuros estén realmente "alineados" y realicen de manera estable los objetivos que los humanos quieren que logre.
"Es una especie de secreto a voces, pero todavía no tenemos una solución viable real", dijo sobre la implementación de la alineación de la IA.
Kokotailo dejó la empresa después de trabajar en OpenAI de 2022 a 2024 trabajando en investigación predictiva, estudiando qué tan rápido podrían avanzar los sistemas de IA y qué riesgos económicos, políticos y de seguridad podrían surgir a medida que las empresas construyen modelos más potentes.
Hoy, a través de su organización de investigación sin fines de lucro, Future of AI Project, se centra en temas similares, enfocándose en analizar qué tan rápido podrían desarrollarse los sistemas de IA y qué riesgos surgirán si las empresas continúan priorizando la velocidad y la competencia.
"Una vez que se cree la superinteligencia, los humanos ya no serán el líder de este planeta, al menos no el líder por defecto", dijo Kokotailo.
Cocotailo dijo que muchas personas todavía subestiman la velocidad del desarrollo de la IA porque las discusiones a menudo suenan a ciencia ficción. Su advertencia se produce mientras las empresas de inteligencia artificial continúan invirtiendo miles de millones de dólares en modelos más potentes y centros de datos más grandes.