Resumen:
Altos funcionarios del Departamento de Defensa de EE. UU. recientemente refutaron públicamente la "teoría del fin del mundo" de que la IA puede destruir a la humanidad, creyendo que las preocupaciones relacionadas surgen del miedo al cambio, y reiteraron que Anthropic sigue siendo un riesgo en la cadena de suministro identificado por el Departamento de Defensa. Según informes de los medios del 10 de septiembre, hora local, Emil Michael, director de tecnología del Departamento de Defensa de EE. UU. y subsecretario de investigación e ingeniería, respondió públicamente ese día a las crecientes preocupaciones recientes sobre los riesgos de la IA.
El ex ingeniero de Anthropic Jacob Coxon advirtió previamente en una publicación en la plataforma social
Michael mencionó la publicación de Coxon en una conferencia de la industria de defensa en Washington, D.C. La publicación ha sido vista más de 150 millones de veces.
Michael dijo: "Es fácil para la gente caer en este ciclo apocalíptico de pensar: 'Vamos a dejar sin trabajo al 40% de los estadounidenses, vamos a destruir a la humanidad'. Al final del día, es el miedo a los centros de datos, el miedo al cambio, todo envuelto en un tweet bien escrito."
Señaló que
Los daños potenciales de la IA mencionados en la publicación de Coxon pueden mitigarse mediante mecanismos de libre mercado, colaboración en toda la industria y comunicación y cooperación con el gobierno.
Coxon publicó varias publicaciones a principios de esta semana, diciendo que OpenAI y Anthropic están "dirigiéndose directamente hacia una superinteligencia automejorada, apostando por nuestras vidas" y advirtiendo que "pronto habrá sistemas sobrehumanos capaces de atravesar cualquier sistema, subvertir cualquier campo de la noche a la mañana y obtener poder y recursos reales".
Según informes de los medios, Coxon, de 27 años, es un británico que se graduó en la Universidad de Cambridge con especialización en matemáticas. Ha estado involucrado en investigaciones previas a la capacitación en OpenAI y Anthropic durante aproximadamente tres años antes, y fue uno de los principales contribuyentes de GPT-4o.
Michael fue un ex ejecutivo de la plataforma estadounidense de transporte compartido en línea Uber y actualmente lidera el esfuerzo para acelerar la aplicación de la IA en el ejército de los EE. UU.
La batalla legal continúa
Vale la pena señalar que el día que Michael hizo los comentarios anteriores, también habló sobre la disputa legal en curso entre el Pentágono y Anthropic.
Anthropic es el antiguo empleador de Coxon, y el núcleo del desacuerdo entre el Pentágono y Anthropic radica en cómo se debe restringir el uso de la IA.
Según informes de los medios del 10 de marzo, hora local, Anthropic solicitó que se prohibiera al ejército estadounidense utilizar sus modelos para la vigilancia masiva del pueblo estadounidense o armas letales totalmente autónomas. Este fue el punto de partida de la disputa entre las dos partes.
Michael participó una vez en las negociaciones principales entre las dos partes, pero las negociaciones fracasaron a principios de este año. El Pentágono rechazó las condiciones pertinentes por infringir la autoridad militar e identificó a Anthropic como una amenaza para la cadena de suministro de Estados Unidos.
La disputa entre las dos partes se transfirió a un tribunal federal y Anthropic presentó demandas en California y Washington, DC.
Según informes de los medios del 3 de septiembre, hora local, la jueza Rita Lin del Tribunal Federal de Distrito para el Distrito Norte de California falló a favor de Anthropic el 27 de agosto, pero el tribunal federal de apelaciones en Washington aún no ha emitido un fallo.
Michael acusó a Anthropic de elegir deliberadamente un tribunal de California con posturas políticas más liberales para demandar, y calificó otro caso que se estaba escuchando en Washington como "más importante". Insistió en que Anthropic sigue siendo un riesgo para la cadena de suministro hasta que se decida el caso de Washington.
El Pentágono anteriormente realizó dos determinaciones independientes de riesgo en la cadena de suministro de Anthropic basándose en dos leyes diferentes. El tribunal de California anuló sólo uno de ellos; el otro fallo fue escuchado directamente por el Tribunal de Apelaciones del Circuito Federal en Washington, D.C., como lo exige la ley. Por lo tanto, antes de que se pronuncie la sentencia en el caso Washington, la correspondiente determinación de riesgo del Departamento de Defensa sigue siendo válida.
Comentarios