Anthropic PBC, que se ha centrado más en la seguridad de la inteligencia artificial que sus pares durante muchos años, ahora ha relajado su compromiso con sus "barandillas de seguridad". Este es uno de los cambios de política más dramáticos en la industria de la IA hasta la fecha, y también refleja que un grupo de nuevas empresas que alguna vez se enfocaron en ayudar a los humanos están dirigiendo su atención a las ganancias y el éxito.
En la "Política de expansión responsable" publicada en 2023, la empresa afirmó que pospondrá el desarrollo de IA que pueda causar peligro. Pero Anthropic actualizó sus reglas en una publicación de blog publicada el martes, diciendo que ya no lo hará si la compañía cree que no tiene una ventaja significativa sobre sus competidores.
Anthropic escribió en el artículo: "El entorno político ha cambiado hacia la priorización de la competitividad de la IA y el crecimiento económico, mientras que a nivel federal, las discusiones orientadas a la seguridad aún tienen que ganar un impulso sustancial".
El ajuste es una sorpresa porque Anthropic ha tratado durante mucho tiempo de diferenciarse de sus pares en su postura de seguridad mientras compite con OpenAI, Google de Alphabet y xAI de Elon Musk por el dominio en lo que muchos consideran una nueva tecnología revolucionaria. El director ejecutivo de Anthropic, Dario Amodei, que anteriormente trabajó en OpenAI, dejó la empresa en parte debido a la preocupación de que OpenAI se centrara más en la comercialización y la velocidad que en la seguridad.
Ambas empresas ahora están presionando para salir a bolsa este año para capitalizar el entusiasmo de los inversores por la IA. Anthropic fue valorada recientemente en 380 mil millones de dólares, mientras que OpenAI recaudó financiación por una valoración de más de 850 mil millones de dólares.
Un portavoz de Anthropic dijo: "Desde el principio, hemos dicho que la velocidad del desarrollo de la IA y la incertidumbre en el campo requieren que iteremos y mejoremos las políticas rápidamente".
A principios de este mes, el investigador senior de seguridad Mrinank Sharma dijo que dejaría Anthropic. "Sigo haciendo balance de la situación en la que nos encontramos", escribió en una carta a sus colegas publicada en la plataforma social X.
"El mundo está en peligro", escribió, "y no sólo por la IA o las armas biológicas, sino por una serie de crisis interconectadas que están ocurriendo en este momento".