Sam Altman, director ejecutivo de la empresa estadounidense de inteligencia artificial OpenAI, afirmó recientemente en una nota interna a los empleados que la empresa se adherirá a la misma "línea roja" que su competidor Anthropic en lo que respecta a una posible cooperación con el Departamento de Defensa de EE. UU. (Pentágono): negarse a permitir que su propia tecnología de inteligencia artificial se utilice para vigilancia masiva o sistemas de armas letales totalmente autónomos.
Altman enfatizó en el memorando que OpenAI no brindará soporte técnico para la vigilancia a gran escala ni participará en el desarrollo de sistemas de armas que puedan determinar de forma autónoma ataques letales. Esto es muy consistente con el resultado final en el que Anthropic ha insistido en negociaciones anteriores con el Pentágono. La negativa de Anthropic a hacer concesiones sobre los dos tipos de usos mencionados anteriormente ha llevado a un juego de alto perfil y mucho en juego con el Departamento de Defensa de Estados Unidos.
Esta declaración hace que el diseño del Pentágono en el campo de la IA militar se enfrente a nuevas incertidumbres. Anteriormente, el modelo de lenguaje grande de Anthropic, Claude, fue el primero en integrarse en algunos de los escenarios comerciales más sensibles del ejército de los EE. UU., y se consideró un paso importante para que el Departamento de Defensa promoviera la aplicación militarizada de tecnología de inteligencia artificial de vanguardia. Ahora, si OpenAI y Anthropic se mantienen coherentes en cuanto a límites éticos clave, y otras empresas líderes como Google siguen posturas similares, el Pentágono encontrará una mayor resistencia a las negociaciones y la adquisición de tecnología cuando busque alternativas, especialmente cuando despliegue grandes modelos de uso general en misiones militares altamente sensibles.
El debate técnico y ético en torno a la IA militar se está intensificando entre las empresas de tecnología y los departamentos gubernamentales de Estados Unidos. Por un lado, el Departamento de Defensa de EE. UU. espera utilizar inteligencia artificial general para mejorar el análisis de inteligencia, el comando de combate y las capacidades de toma de decisiones en el campo de batalla, e incluso explorar aplicaciones automatizadas de alto nivel; Por otro lado, muchas empresas líderes en inteligencia artificial están buscando un equilibrio entre oportunidades comerciales y responsabilidades éticas, tratando de limitar la difusión de la tecnología en áreas sensibles como la vigilancia masiva y las armas letales autónomas mediante el establecimiento de "líneas rojas".
La declaración de Altman se ve como el claro posicionamiento de otro actor clave en el resultado final de la IA militar después de que las diferencias entre el Pentágono y Anthropic se hicieran públicas. En el contexto de la industria de la IA altamente concentrada en los Estados Unidos, si las principales empresas llegan a un consenso sobre los límites éticos, afectará profundamente el camino y el ritmo de la futura adquisición y despliegue de capacidades generales de IA por parte de los militares. También puede promover más debates y juegos en los Estados Unidos sobre la supervisión militar de la IA y las reglas internacionales.
Artículos relacionados:
Anthropic se prepara para retirarse de un contrato de defensa de 200 millones de dólares, el secretario de defensa de EE.UU. amenaza con forzar el intercambio de tecnología
El Departamento de Defensa de EE. UU. establece una fecha límite pública para el uso irrestricto de herramientas de IA antrópica