Resumen:
Anthropic dijo el lunes que las nuevas medidas destinadas a evitar que los competidores copien las capacidades de su modelo Claude AI han reducido la cantidad de datos robados por los llamados "ataques de destilación" entre un 90% y un 99%.
La destilación de modelos se ha convertido en el foco de las principales empresas de inteligencia artificial; Empresas como Anthropic, OpenAI y Google creen que esta práctica permite a los competidores copiar sus capacidades avanzadas a un costo menor y más rápido.
Anthropic dijo que las salvaguardas destinadas a limitar el acceso a las capacidades de inferencia de Claude han reducido significativamente los intentos de extracción contra el modelo, y que el "número de tokens de inferencia extraídos mediante destilación" ahora se ha reducido a "1/100 a 1/10 del nivel anterior".
La compañía con sede en California dijo que ha hecho más difícil aprovechar una red de agentes para investigar repetidamente el proceso de inferencia protegido de Claude, bloqueando los intentos de extracción de datos y obstaculizando las campañas de destilación de modelos a gran escala.
Anthropic dice que su sistema de seguridad es "más o menos equivalente a un sistema que habría impedido que Claude ayudara en la creación de un arma biológica" y tiene una "tasa de falsos positivos de menos del 0,1 por ciento".
Comentarios