Caitlin Kalinowski, jefa de ingeniería de hardware y robótica de OpenAI, anunció recientemente que renunció a la empresa. Dirigirá el equipo de robótica de OpenAI a partir de noviembre de 2024. Publicó en X y LinkedIn: "Renuncié a OpenAI. Me preocupo profundamente por el equipo de robótica y el trabajo que hemos realizado juntos. Esta no fue una decisión fácil. La IA tiene un papel importante en la seguridad nacional. Pero monitorear a los estadounidenses sin supervisión judicial y lograr una autonomía letal sin autorización humana son dos líneas rojas que deberían haber recibido una discusión más cuidadosa de la que realmente tienen".
Enfatizó que su decisión fue "una cuestión de principios, no de individuos", y dijo que todavía siente un profundo respeto por Sam Altman y el equipo y está orgullosa de los resultados que hemos logrado juntos.
La salida de Kalinowski se produce en medio de un creciente debate en la industria sobre hasta qué punto las empresas de inteligencia artificial deberían apoyar el uso de su tecnología por parte del ejército estadounidense. Las negociaciones entre el Departamento de Defensa de Estados Unidos y Anthropic fracasaron recientemente debido a la insistencia de la compañía en imponer restricciones estrictas a la vigilancia interna y el uso de armas autónomas. Poco después de que fracasaran las negociaciones, OpenAI llegó a un acuerdo con el Pentágono para desplegar sus modelos de IA en una red gubernamental clasificada. Esta medida provocó críticas de algunos empleados y observadores, que creían que OpenAI estaba tomando el control después de que Anthropic rechazara las condiciones pertinentes. En respuesta, el director ejecutivo de OpenAI, Sam Altman, admitió más tarde que la presentación externa del acuerdo "parecía oportunista" y desde entonces la compañía ha comenzado a aclarar aún más las limitaciones de cómo los militares pueden utilizar sus sistemas de IA.
Un portavoz de OpenAI emitió un comunicado al confirmar la salida de Kalinowski, diciendo que la compañía cree que el acuerdo alcanzado con el Pentágono proporciona un camino factible para el "uso responsable de la IA en el campo de la seguridad nacional" y traza claramente la línea roja: ni para la vigilancia interna ni para las armas autónomas. El comunicado señaló que la empresa reconoce que el público tiene fuertes diferencias sobre estos temas y continuará manteniendo el diálogo con empleados, gobiernos, sociedad civil y comunidades de todo el mundo.
Antes de unirse a OpenAI, Kalinowski había estado involucrado durante mucho tiempo en el desarrollo de productos de hardware en grandes empresas de tecnología. Se desempeñó como ejecutiva de hardware en Meta durante más de dos años y medio, liderando el proyecto de gafas de realidad aumentada cuyo nombre en código es "Proyecto Nazare" y luego oficialmente llamado "Orion", un producto que Meta llama "las gafas AR más avanzadas jamás fabricadas". En septiembre de 2024, Meta demostró un prototipo de estas gafas AR. Antes de hacerse cargo del proyecto Orion, trabajó en Meta's Oculus durante más de nueve años, centrándose en el desarrollo de cascos de realidad virtual. Antes de eso, trabajó en Apple durante casi seis años, participando en el diseño de productos MacBook, incluidos los modelos Pro y Air.
La partida de Kalinovsky resalta la atracción y el desacuerdo sobre los límites éticos dentro del campo de la IA con respecto al uso militar y civil de doble uso, especialmente la vigilancia y las armas autónomas letales. Por un lado, existe una fuerte demanda de capacidades avanzadas de inteligencia artificial por parte de las agencias de seguridad nacionales y, por otro, persisten preocupaciones entre los técnicos y las empresas sobre la protección de la privacidad, el control humano y los riesgos de la automatización en la guerra. A medida que avanzan las negociaciones entre el Departamento de Defensa de Estados Unidos y las principales empresas de IA, es posible que conflictos de valores y flujos de personal similares sigan remodelando las rutas técnicas y los límites éticos de esta industria emergente.