El científico jefe de OpenAI pide a la industria que restrinja el desarrollo de modelos, está de acuerdo Altman

📅 2026-11-23

Resumen:

El científico jefe de OpenAI, Jakub Pachocki, propone que las empresas de inteligencia artificial deberían acordar establecer límites al desarrollo de modelos cada vez más potentes hasta que los investigadores tengan mejores formas de comprender y monitorear el comportamiento de estos modelos. Pachocki pidió estándares para toda la industria que establezcan límites para el desarrollo de la IA, y las empresas deberían acordar no traspasar esos límites hasta que se cumplan requisitos de seguridad específicos.

"Propongo además que se establezcan límites comunes basados en la perplejidad y otras medidas, y que los desarrolladores se comprometan a no violar estos límites hasta que nuestra capacidad para comprender y monitorear el comportamiento de la IA alcance un hito específico", escribió Pachocki. Los límites propuestos por Pachocki podrían basarse en parte en una métrica técnica llamada perplejidad, que mide la capacidad de un modelo de IA para predecir el siguiente fragmento de texto. Pachocki no dijo en qué nivel deberían fijarse los límites iniciales ni cuándo se implementarían.

Pachocki advirtió que ya en 2027, la IA podría acelerar su propia evolución más rápido de lo que los investigadores pueden mejorar su capacidad para monitorear y comprender la tecnología.

Altman, director ejecutivo de OpenAI, expresó su apoyo a la propuesta y calificó el artículo de Pachocki como "el contenido más importante que OpenAI ha publicado en algún tiempo". En una publicación en X, dijo que acordar límites compartidos ayudaría a garantizar "seguridad y control".

Etiquetas relacionadas

Artículos relacionados

Comentarios

0/500
Captcha (click to refresh)
Sin comentarios