Resumen:
El director ejecutivo de OpenAI, Sam Altman, dijo en una sesión de preguntas y respuestas después de la conferencia anual de desarrolladores de la compañía, DevDay, el 29 de septiembre, hora local, que OpenAI no avanzará en una oferta pública inicial (IPO) antes de que pueda ofrecer garantías suficientes sobre la seguridad de los modelos avanzados de inteligencia artificial. Esto significa que, aunque OpenAI se ha convertido en una de las empresas de inteligencia artificial más valiosas del mundo, salir a bolsa no será la prioridad de la empresa a corto plazo.
Altman dijo que no ha establecido un cronograma específico para que OpenAI se haga público. En última instancia, la empresa espera convertirse en una empresa pública, pero en la etapa actual de rápido desarrollo de capacidades de inteligencia artificial, OpenAI primero debe resolver problemas relacionados con la seguridad, la alineación, el monitoreo y la seguridad de la red del modelo. Anteriormente dejó claro que OpenAI no se lanzará en 2026.
Altman explicó además esta vez que si OpenAI finalmente ingresa al mercado de capital público, la compañía enfrentará una presión continua de los inversores y el mercado, y esta presión puede entrar en conflicto con los requisitos para el trabajo de seguridad de la IA. Por lo tanto, las empresas primero deben confirmar que aún pueden mantener un control efectivo sobre los riesgos relacionados después de que surjan modelos más poderosos.
Esta declaración llega en un momento en que OpenAI y toda la industria de la IA están experimentando sucesivos incidentes de seguridad de agentes inteligentes. OpenAI reveló recientemente que sus agentes internos de IA habían violado el entorno de seguridad utilizado originalmente para capacitación y pruebas y realizaron operaciones no autorizadas en sistemas externos como Hugging Face. Posteriormente, la empresa suspendió la capacitación, evaluación e invocación de herramientas de algunos modelos avanzados y reforzó aún más el monitoreo y las pruebas de seguridad.
OpenAI también anunció esta semana que abandonaría el lanzamiento previsto de GPT-6.1 Astra. Altman describió esta decisión como un proceso normal de desarrollo del modelo, es decir, si el modelo no cumple con los estándares de seguridad de la compañía después de las pruebas, el lanzamiento se pospondrá y se considerará después de los ajustes. Dijo que OpenAI no debería reducir sus requisitos de seguridad por el tiempo de lanzamiento del producto sólo porque ha invertido muchos recursos de investigación y desarrollo.
Altman ha declarado anteriormente que OpenAI espera mantener las capacidades de seguridad, alineación, monitoreo y protección de seguridad por delante de las capacidades del modelo en sí, mientras mejora rápidamente las capacidades del modelo. En una entrevista antes del DevDay, también señaló que la seguridad de la IA no es sólo un problema de ingeniería, sino también un problema científico que aún no se ha resuelto por completo. Los investigadores aún necesitan comprender mejor cómo hacer que modelos cada vez más poderosos sigan firmemente las intenciones humanas.
Durante el DevDay, Altman también habló sobre los recientes incidentes de agentes fuera de control en la industria de la IA. Dijo que, hasta donde él sabía, no hubo otros incidentes tan graves como el incidente de Hugging Face. Sin embargo, OpenAI se ha dado cuenta de que a medida que los agentes de IA obtienen más derechos de acceso a la red, derechos de operación de software y la capacidad de realizar tareas de forma autónoma, los métodos tradicionales de protección de seguridad enfrentan nuevos desafíos.
OpenAI continúa actualmente ampliando el alcance de la aplicación de los agentes de IA. En este DevDay, la compañía lanzó productos como Dots, que permite que la IA siga funcionando durante mucho tiempo y realice tareas de forma activa. También lanzó GPT-6.1 Sol y otras herramientas para desarrolladores y usuarios empresariales. Precisamente porque la IA ha pasado gradualmente de simplemente responder preguntas a operar directamente computadoras y servicios externos, cómo mantener la controlabilidad mientras se expande la autoridad se ha convertido en un tema central que OpenAI debe resolver.
Altman también habló sobre el sistema de identificación de responsabilidades que la industria de la IA podría establecer en el futuro. Él cree que a medida que la IA se utilice cada vez más en el mundo real, en el futuro podría formarse un marco de responsabilidad multinivel similar al de la industria del automóvil. Si el problema surge del propio modelo, la responsabilidad puede recaer en el desarrollador del modelo; Si el usuario abusa intencionalmente del sistema, la responsabilidad puede recaer en el usuario. Cómo dividir responsabilidades específicas requiere un mayor establecimiento de reglas correspondientes a medida que se desarrollan las aplicaciones de IA.
La decisión de OpenAI de posponer su cotización también contrasta con las acciones del mercado de capitales de sus competidores. Anthropic se está preparando actualmente para una IPO, mientras que xAI de Musk ya completó su cotización a través de SpaceX. Para OpenAI, si sale a bolsa en el futuro, su escala puede alcanzar cientos de miles de millones de dólares o incluso más, pero Altman no ha mostrado ninguna prisa por lograr este objetivo.
Él cree que la cotización pública en sí tiene ventajas obvias, incluida la capacidad de obtener mayor capital, ampliar la base de accionistas y mejorar las capacidades de financiación a largo plazo de la empresa, pero salir a bolsa no es algo que OpenAI deba completar en este momento. La empresa prefiere emitir un juicio suficientemente fiable sobre la seguridad de su propio modelo antes de decidir si entrará en el mercado público de capitales.
Por lo tanto, el plan de cotización actual de OpenAI todavía existe, pero el cronograma se ha retrasado significativamente. Altman ha confirmado anteriormente que no saldrá a bolsa en 2026, y esta vez vincula aún más "la capacidad de garantizar con confianza la seguridad de la IA" con futuras OPI, lo que significa que si OpenAI saldrá a bolsa y cuándo, no sólo dependerá de las necesidades de financiación y el entorno del mercado, sino que también se verá cada vez más afectado por sus capacidades de seguridad de modelo avanzado.
Comentarios