El 29 de julio, el Wall Street Journal informó que se está gestando una tendencia antiantrópica en Silicon Valley. La causa fundamental es que los productos de la empresa compiten con los proveedores de software existentes y su defensa de un ecosistema cerrado de IA.


Amodei, CEO antrópico (derecha)

Competir con socios

Los fundadores de startups, ejecutivos de empresas de software e investigadores de IA dijeron que comenzaron a recurrir a modelos de IA más baratos después de ver a Anthropic traer al mercado herramientas que compiten con los productos de otras empresas. Un ejemplo es Claude Design, lanzado por Anthropic en abril. Algunos creen que el producto está directamente alineado con los servicios proporcionados por la empresa de software de diseño Figma, uno de los socios de Anthropic.

En un evento poco después del lanzamiento de Claude Design, el director ejecutivo de Figma, Dylan Field, dijo que Anthropic "no siempre ha sido sincero" en sus comunicaciones, según los asistentes al evento.

"Toda la industria ha aprendido mucho de este incidente. Es posible que algunas empresas hayan confiado demasiado en (Anthropic)". Sarah Sachs, directora de la plataforma para tomar notas Notion AI, que asistió al evento, dijo:

crear pánico

Anthropic también ha recibido críticas por cambios en su política de retención de datos y por lanzar un modelo poderoso que se negó a responder preguntas de investigación de IA, enfadando a algunos investigadores que abogan por una mayor transparencia en los sistemas de IA.

Además, el mundo exterior también se muestra escéptico ante las advertencias de los ejecutivos de Anthropic sobre los riesgos de seguridad de la llamada IA ​​de “peso abierto”.Los modelos abiertos son mucho menos costosos y, a menudo, permiten a los usuarios personalizar e instalar sus propias medidas de seguridad. Algunos de estos modelos desarrollados en China han recibido elogios de los usuarios en los últimos meses por su capacidad para acercarse a los sistemas de inteligencia artificial de vanguardia de Estados Unidos.

Vishal Misra, decano asociado de informática e inteligencia artificial en la Facultad de Ingeniería de la Universidad de Columbia, dijo que Anthropic ha desarrollado excelentes productos, pero las declaraciones de la compañía sobre la seguridad y los riesgos de la inteligencia artificial no resisten el escrutinio.

"Están generando miedo entre el público acerca de estos modelos", afirmó. "El miedo del público les da influencia para impulsar políticas regulatorias que sean beneficiosas para ellos".


Protestas en apoyo al modelo de peso abierto

Un portavoz de Anthropic defendió la situación diciendo que las medidas tomadas por la empresa eran necesarias para garantizar la seguridad de los modelos y evitar que los adversarios los utilicen para crear riesgos graves.

El director ejecutivo de Anthropic, Dario Amodei, y otros ejecutivos de la empresa han hablado repetidamente sobre los riesgos de abrir sistemas de IA ponderados. Anthropic ha publicado una gran cantidad de informes de investigación sobre los riesgos de seguridad de la IA y ha promovido la regulación gubernamental de la IA a través del apoyo público y donaciones políticas.

El lunes, después de que varias empresas estadounidenses, incluidas Nvidia y Microsoft, firmaran una carta conjunta expresando su apoyo al modelo abierto, Amodei emitió una carta abierta aclarando su posición sobre el acalorado debate. "Anthropic nunca ha abogado por la prohibición de los modelos de peso abierto", escribió. "Los modelos de peso abierto sin capacidades peligrosas son un bien público".

Debilita a tu oponente

Los críticos, incluidos algunos funcionarios gubernamentales, ven las advertencias de Anthropic sobre los riesgos de los modelos abiertos como parte de un esfuerzo por obstaculizar a los competidores porque muchos de esos modelos abiertos podrían socavar el objetivo de Anthropic de maximizar los ingresos. La empresa podría salir a bolsa a principios de este otoño.

Kevin Bryan, profesor asociado de la Universidad de Toronto especializado en innovación, defendió a Anthropic. Dijo que las preocupaciones sobre los riesgos que plantea la inteligencia de vanguardia de código abierto son reales y ampliamente reconocidas. "Cualquier cosa de código abierto se libera inmediatamente (se rompen las restricciones de seguridad)", dijo. "Una vez que se lanza el modelo, no hay nada que se pueda hacer al respecto".

Algunos críticos señalan que el propio proceso de construcción de modelos de Anthropic es similar a la tecnología de destilación.

"Lo interesante es que estaban en contra de la destilación, pero ellos mismos destilaron todo Internet sin pagar regalías". Mark Suman, cofundador y director ejecutivo de Maple, una startup de herramientas de productividad de inteligencia artificial, dijo: "Me parece extraño que ahora les digan a otros que no hagan lo que ellos hicieron".

Patrón de duopolio

OpenAI firmó la carta horas después de que se hiciera pública una carta conjunta de empresas que apoyan el modelo de peso abierto. Posteriormente, Google expresó su apoyo a la carta, lo que convirtió a Anthropic en una de las pocas empresas de inteligencia artificial de alto perfil que no apoyó la iniciativa. Actualmente, más de 70 empresas de Silicon Valley se han adherido y firmado.

Los tecnólogos y formuladores de políticas también han expresado su preocupación de que la competencia de la IA eventualmente evolucione hacia un duopolio, con Anthropic y OpenAI convirtiéndose en las dos empresas que gradualmente dominen el mercado.

Las preocupaciones sobre el duopolio estuvieron en el centro de una protesta en apoyo del modelo de ponderación abierta en el centro de San Francisco el sábado. El centro de San Francisco es el corazón de la comunidad de empresas emergentes de IA. La protesta fue coorganizada por el director ejecutivo de Hugging Face, una empresa de inteligencia artificial que proporciona herramientas de inteligencia artificial de código abierto. Hugging Face fue pirateado recientemente por el modelo desbocado de OpenAI.

"Los laboratorios de inteligencia artificial de frontera están acaparando inteligencia. La inteligencia debería democratizarse". dijo Mahesh Lambe, un investigador de inteligencia artificial que participó en la protesta.

desconfianza

Algunos fundadores y ejecutivos de startups dijeron que el lanzamiento de Claude Design por parte de Anthropic fue una "llamada de atención" para todo Silicon Valley. El lanzamiento del producto llevó a algunos fundadores a concluir que Anthropic podría lanzar herramientas para competir con ellos y robarles clientes. Después de eso, recurrieron seriamente a modelos abiertos más baratos, especialmente aquellos desarrollados en laboratorios de vanguardia fuera de Estados Unidos.

Esta desconfianza se intensificó aún más en junio de este año con el lanzamiento de Fable 5 de Anthropic. Fable 5 es una versión con restricciones de seguridad de su potente modelo Mythos, con algunas limitaciones de capacidad adicionales.

Inicialmente, el modelo degradó la calidad de sus respuestas a algunas preguntas sobre el desarrollo de la IA, pero los usuarios no fueron informados de esta limitación. La comunidad investigadora criticó inmediatamente esta "medida de seguridad opaca", argumentando que la decisión era anticompetitiva y dificultaba la evaluación de las capacidades del modelo.

Anthropic luego se disculpó e hizo públicas estas restricciones de seguridad a disposición de los usuarios. Aún así, la compañía dijo que se negaría a responder a las solicitudes señaladas como de mayor riesgo.

Un portavoz de Anthropic dijo que la compañía tomó medidas para limitar las respuestas del modelo para evitar que adversarios extranjeros exploten los modelos y los utilicen "de una manera que cree serios riesgos de seguridad".

Fable 5 tampoco admite la "retención cero de datos", lo que significa que la empresa conserva los datos del usuario durante 30 días por lo que llama fines de confianza y seguridad.

Algunas empresas no están contentas con el cambio, especialmente aquellas en industrias que involucran datos confidenciales. También existe una preocupación generalizada entre algunas empresas de que sus datos se utilicen para entrenar nuevos modelos, lo que ayudará aún más a Anthropic a lanzar productos de la competencia.

Un portavoz de Anthropic dijo que los empleados de la empresa no pueden ver ninguna conversación conservada y que la empresa ha prometido no utilizar los datos para entrenar nuevos modelos. Las restricciones se aplican a Fable y Mythos, los "modelos más capaces" de la compañía, pero no a otros modelos.