El director ejecutivo de OpenAI, Sam Altman, dijo a los empleados que la compañía no tiene la autoridad para decidir cómo el Departamento de Defensa usa su software de inteligencia artificial (IA), sugiriendo que esta intención de interferir con la forma en que se usa puede ser parte del motivo de la tensión entre el Pentágono y Anthropic PBC.
Según una persona familiarizada con el asunto, Altman dijo en una reunión de todo el personal el martes que el Departamento de Defensa de EE. UU. ha dejado en claro que escuchará las opiniones profesionales de OpenAI sobre aplicaciones tecnológicas, pero no quiere que la compañía exprese opiniones sobre la calidad de ciertas operaciones militares. "No tienes la autoridad para tomar decisiones operativas", dijo Altman, dijo la persona.
OpenAI se negó a hacer comentarios.
OpenAI llegó a un acuerdo con el Pentágono el viernes por la noche para permitirle desplegar los modelos de IA de la compañía en redes clasificadas. La reunión fue la primera oportunidad que tuvo Altman de responder preguntas de los empleados. Anteriormente, el Pentágono tuvo una disputa con el competidor de OpenAI, Anthropic, que exigía que su tecnología no se utilizara para la vigilancia masiva del pueblo estadounidense o el despliegue de armas totalmente autónomas.
Altman ha dicho que su acuerdo con el Departamento de Defensa encarna los principios de OpenAI, incluida la prohibición de la vigilancia masiva en Estados Unidos y la responsabilización de los humanos por el uso de la fuerza, incluidos los sistemas de armas autónomos. Más tarde dijo que el acuerdo alcanzado por OpenAI fue apresurado y dijo que la compañía estaba trabajando con el Departamento de Defensa para "agregar algunas disposiciones al acuerdo para aclarar nuestros principios". Esos principios incluyen garantizar que la IA no se utilice para vigilar a ciudadanos estadounidenses y que las agencias de inteligencia como la Agencia de Seguridad Nacional no puedan confiar en los servicios de OpenAI.
Durante la reunión de todo el personal, Altman también dijo que continuaría presionando al Departamento de Defensa para que elimine la designación de Anthropic como un riesgo para la cadena de suministro, una etiqueta que nunca antes se había aplicado a una empresa estadounidense y que normalmente está reservada para los adversarios estadounidenses. Altman ha dicho que espera ayudar a aliviar el impasse entre el Pentágono y Anthropic.