Según Business Insider, el director ejecutivo de Anthropic, Dario Amodei, es conocido por advertir con frecuencia sobre los posibles riesgos de sus propios productos de inteligencia artificial, pero esto también le ha costado a su empresa.En un artículo publicado este mes, Amodei advirtió que el poder de la IA “se ha vuelto incuestionable”.. Como ejemplo, citó el último modelo de Anthropic, Mythos, por plantear "riesgos muy reales" para la ciberseguridad, la industria financiera, la infraestructura crítica y la seguridad nacional.


amodei

Luego pidió al gobierno de Estados Unidos que tome medidas de intervención más fuertes para hacer frente a estos riesgos. Pero el viernes, su advertencia pareció resultar contraproducente: el gobierno de Estados Unidos impuso repentinamente controles de exportación sobre el último modelo de Anthropic.

Anthropic dijo que cortó el acceso a sus Mythos 5 y Fable 5 después de que la administración Trump le ordenó bloquear el acceso de usuarios extranjeros a los modelos. El director de información del Pentágono expresó su apoyo a la medida en una publicación en la plataforma X, escribiendo: "Algunas cosas son más importantes que los ciclos de ingresos, las exageraciones y las valoraciones previas a la IPO".

Este repentino desarrollo ha provocado el pánico en toda la industria tecnológica. Gary Marcus, investigador de inteligencia artificial y conocido escéptico, calificó la medida de la administración Trump como “una reacción tremendamente exagerada y contraproducente”.


Yang Likun dijo que Amodei estaba cosechando las consecuencias

Sin embargo, el "padrino de la IA" Yann LeCunn culpó a Amodei. "Amodei ha estado difundiendo un alarmismo ridículo sobre el modelo Mythos/Fable (y todo el campo de la IA), y ahora finalmente ha dado sus frutos", dijo Yang Likun, "cosecharás lo que siembras".

Larga advertencia sobre los riesgos de la IA

Amodei lleva mucho tiempo intentando presentarse como el “adulto cuerdo” en la industria de la IA.Fue un investigador integral en OpenAI hasta que dejó la empresa y fundó Anthropic porque le preocupaba que el director ejecutivo de OpenAI, Sam Altman, estuviera priorizando la velocidad de lanzamiento de productos en lugar de garantizar su seguridad.

Desde entonces, ha emitido una serie de declaraciones, diciendo que lo que él y OpenAI, Google, Meta, Amazon y otras empresas están desarrollando y lanzando al público puede cambiar fundamentalmente la forma de vida con la que los humanos estamos familiarizados. Este impacto puede ser tanto positivo como negativo.

Amodei ha advertido que la IA podría eliminar la mitad de los empleos administrativos iniciales y hacer que el desempleo se dispare a niveles no vistos desde la pandemia de COVID-19, posiblemente incluso recreando el shock de desempleo de la crisis financiera global de 2008 (Gran Recesión).

Si bien Amodei se ha suavizado en las últimas semanas sobre el impacto de la IA en los empleos mientras Anthropic se prepara para salir a bolsa, él y Anthropic se han mantenido sin reservas en sus advertencias sobre otros riesgos de seguridad.

"Los riesgos de ciberseguridad que plantean los modelos a nivel de Mitos no serán los últimos riesgos que tendremos que afrontar", afirmó en un artículo publicado en junio. "Creo que pronto surgirán riesgos de bioseguridad y no estarán muy lejos riesgos más graves para la autonomía de la IA".

También dijo que el nivel actual de preocupación y conciencia de los legisladores sobre la IA ya no puede seguir el rápido desarrollo de la tecnología de IA.

A principios de este mes, Anthropic pidió en un documento una moratoria sobre el desarrollo de modelos de IA de vanguardia, advirtiendo que los últimos modelos se estaban acercando a la automejora, lo que "puede aumentar el riesgo de que los humanos pierdan el control de los sistemas de IA".

"Creemos que sería bueno si el mundo pudiera optar por ralentizar o pausar temporalmente el desarrollo de la IA de vanguardia para que la estructura social y la investigación de alineación puedan mantenerse al día con los avances tecnológicos". Dijo Antrópico.

Irónicamente, este "botón de pausa" finalmente se presionó el viernes pasado, pero el objetivo se convirtió en Anthropic.