Jefe de negocios internacionales de Anthropic: el modelo de código abierto es más riesgoso

Resumen:

El 14 de octubre, según Bloomberg, el principal ejecutivo de ventas de Anthropic responsable de los mercados fuera de Estados Unidos dijo que, en comparación con los modelos de IA de la compañía, los modelos abiertos tienen "mayores riesgos" en términos de incidentes de ciberseguridad u otros peligros.

Príncipe

Guillaume Princen, director de negocios internacionales de Anthropic, dijo a Bloomberg TV el miércoles en la Cumbre Internacional de IA en Dublín: "Tenemos que ser extremadamente cautelosos con los modelos de código abierto en lo que respecta a la seguridad. No puedo hablar a favor de los modelos abiertos, pero por definición son de mayor riesgo".

Anthropic está a punto de salir a bolsa, pero la empresa enfrenta una competencia cada vez mayor en algunos países. Estos países están cada vez más preocupados por su dependencia de la tecnología de inteligencia artificial estadounidense. Actualmente, una alternativa popular a los modelos de código cerrado son los modelos de IA de peso abierto, que exponen sus parámetros y permiten a los usuarios modificarlos y ejecutarlos en su propio hardware.

Los partidarios dicen que estos modelos son más baratos y más propicios para salvaguardar la soberanía nacional que los modelos de código cerrado estrictamente controlados que ofrecen Anthropic y OpenAI. La empresa francesa de inteligencia artificial Mistral AI lanzó recientemente un modelo de peso abierto que ofrece a Europa una alternativa al modelo soberano. Al mismo tiempo, una serie de modelos abiertos similares lanzados por empresas chinas están ganando cada vez más atención en los mercados extranjeros.

Anthropic ha ido aumentando sus advertencias sobre las capacidades de la IA.

Prinsen también supervisa las ventas de Anthropic a nuevas empresas y empresas "nativas digitalmente". Dijo que sus preocupaciones sobre el modelo de peso abierto surgen de los propios esfuerzos de Anthropic por mantener sus productos seguros. Luego de una serie de ataques de inteligencia artificial de alto perfil, Anthropic dijo que ha agregado salvaguardas de seguridad adicionales para evitar que sus modelos se utilicen con fines maliciosos. La compañía siempre ha abogado por que se desacelere el ritmo del desarrollo de la IA hasta que se establezcan estándares internacionales y se forme un mecanismo de evaluación unificado.

Cuando se trata de los modelos más caros de Anthropic, Princen dijo que les diría a las empresas que comprar modelos más potentes eventualmente dará sus frutos. “Invierta siempre en tecnología de punta porque dentro de seis meses, dentro de un año o dentro de dos años el costo de utilizar este tipo de aplicaciones también bajará”, afirmó.

Dijo que el último modelo Claude de la compañía, el Opus 5.5, es un 40% más barato que la versión anterior. Añadió que los clientes empresariales que compran los modelos "de vanguardia" de Anthropic constituyen una "porción muy grande" del negocio de la compañía, sin revelar cifras específicas.

Prinsen se negó a comentar sobre los planes de salida a bolsa de Anthropic ni a decir cuánto dinero ha invertido la empresa en la formación de nuevos modelos.