Resumen:
Según Reuters, OpenAI actualizó sus especificaciones de modelo el jueves. Es una hoja de ruta pública que establece cómo la empresa quiere que funcionen sus modelos de IA. A medida que las capacidades de los sistemas de IA continúan aumentando, OpenAI ha reconstruido este conjunto de especificaciones en torno a cinco valores fundamentales. Los cinco valores son fidelidad a la intención humana, minimización del daño, honestidad y transparencia, respeto a la autonomía humana y cuidado.
OpenAI
OpenAI declaró que la lealtad a las intenciones humanas es la base de este marco, lo que requiere que el modelo comprenda las intenciones y orientaciones de valores de los usuarios, los desarrolladores y OpenAI, en lugar de simplemente ejecutar instrucciones literalmente.
OpenAI dijo que la actualización es parte de sus esfuerzos de alineación de la IA para ayudar a los modelos a aplicar valores humanos en situaciones desconocidas, aceptando siempre la supervisión humana. El marco revisado dice que los modelos deben minimizar el daño, ser transparentes sobre lo que saben y lo que no saben, y ayudar a los usuarios a tomar sus propias decisiones y perseguir sus propios objetivos.
La compañía afirmó que el modelo actual aún no refleja completamente los requisitos de la "Especificación del modelo" actualizada y está explorando nuevos métodos de capacitación para ayudar al modelo a internalizar estos principios en su propio comportamiento.
La medida se hace eco del enfoque de “IA constitucional” de su rival Anthropic. El enfoque guía el comportamiento de un modelo a través de una “constitución” escrita de principios y hace que los valores que dan forma a los sistemas de IA sean más transparentes.
Comentarios