Microsoft recientemente restringió a los empleados el uso interno del modelo grande de nivel Mythos recientemente lanzado por Anthropic, Claude Fable 5, debido a preocupaciones sobre los riesgos de cumplimiento y confidencialidad que su política de retención de datos puede traer. Según personas familiarizadas con el asunto, después de que Anthropic actualizara sus requisitos de retención de datos para Claude Fable 5, el equipo legal de Microsoft intervino para evaluar y eliminar temporalmente el modelo de la lista de selección de modelos GitHub Copilot utilizada por los empleados de la empresa.
Anthropic lanzó ayer oficialmente su primer modelo de nivel Mythos, Claude Fable. Fable 5 es la versión principal de esta versión y se ha integrado rápidamente en productos y servicios orientados al cliente como GitHub Copilot y Foundry de Microsoft. Sin embargo, a diferencia del rápido lanzamiento para clientes externos, los empleados internos de Microsoft no pueden elegir temporalmente Claude Fable 5 en su propio entorno GitHub Copilot y solo pueden acceder a otros modelos de la serie Claude que continúan implementando la estrategia de "Retención de datos cero" (ZDR).
Se informa que la explicación interna de Microsoft a los empleados es que el equipo legal está evaluando los últimos requisitos de retención de datos de Anthropic para los modelos de la serie Mythos. Las principales preocupaciones se centran en cómo se almacenan y procesan los datos de los clientes y la información confidencial. No está claro cuál será la revisión legal y si Claude Fable 5 se reabrirá para que lo utilicen los empleados de Microsoft en el futuro.
Según la política anunciada por Anthropic, el funcionamiento de Claude Fable 5 se basa en un nuevo clasificador de seguridad, que requiere que el servidor conserve las indicaciones del usuario y genere contenido para análisis de seguridad y detección de infracciones. Según las normas vigentes, estos datos se conservarán durante 30 días por defecto y se eliminarán después de su vencimiento; Si se marca que el contenido relevante viola la política de uso de Anthropic, puede conservarse por hasta dos años para fines continuos de seguridad y cumplimiento. Es este mecanismo de "retención requerida" el que ha desencadenado una serie de preocupaciones sobre la responsabilidad legal, la privacidad del cliente y la protección de la confidencialidad corporativa por parte de Microsoft.
El Claude Fable 5 es el primer lanzamiento público a gran escala de la familia de modelos Anthropic Mythos, que la compañía ha dicho anteriormente que son "demasiado peligrosos para un lanzamiento público completo" cuando se trata de tareas delicadas como la ciberseguridad. Para reducir el riesgo de abuso, Anthropic introdujo mecanismos más estrictos de protección de seguridad de palabras y revisión de contenido para Fable 5, que también contribuyeron técnicamente al diseño actual de retención de datos, creando una nueva tensión entre la seguridad del producto y el cumplimiento de los datos.
Los medios han buscado comentarios de Microsoft sobre el uso actual de Claude Fable 5 dentro de Microsoft y sus planes posteriores, pero Microsoft no ha respondido antes de la fecha límite.
Artículos relacionados:
Anthropic lanza Claude Fable 5, versión pública de Mythos sin funciones de ciberseguridad