Anthropic dice que sus nuevas defensas reducen entre 90% y 99% la extracción de datos de Claude por copiadores de modelos
Redacción Ivoka15 oct, 3:00 p.m. 3 min
La empresa asegura que limitar el acceso al razonamiento oculto de Claude frenó los intentos de copiar sus capacidades. Citó como ejemplo a Zhipu (Z.ai). Reconoce costos para algunos usuarios: ajustes en integraciones, posibles bloqueos de solicitudes legítimas y cobro por solicitudes rechazadas.
Anthropic dijo el lunes 12 de octubre que sus nuevas medidas contra la «destilación» redujeron entre 90% y 99% los datos que los atacantes lograban sacar de Claude, según Reuters.
¿Qué es la destilación?
Es una práctica en la que un grupo usa las respuestas de un modelo avanzado para entrenar otro más pequeño que lo imite, normalmente a menor costo. Reuters explica que se volvió un tema clave entre las grandes empresas de IA por la competencia entre Estados Unidos y China.
Qué dice Anthropic
- Las defensas se centran en limitar el acceso al razonamiento interno de Claude. Según Reuters, los tokens de razonamiento extraídos ahora son 10 a 100 veces menos que antes.
- Dice que dificultó el uso de redes de servidores intermediarios para sondear el sistema una y otra vez.
- Su sistema tendría una tasa de falsos positivos menor a 0.1%.
- Baneó decenas de miles de cuentas ligadas a campañas de destilación.
- Mencionó a la empresa china Z.ai (Zhipu) como ejemplo: habría intentado destilar capacidades de ciberseguridad de Claude mientras desarrollaba su modelo GLM-5.3.
- La compañía también dice que ha rechazado ingresos importantes por tráfico asociado a esta práctica.
¿Por qué te importa?
Para creadores y negocios que usan Claude por app o API, las medidas tienen costos que la propia Anthropic reconoce, según Pulse 2.0:
- Algunos desarrolladores tuvieron que actualizar sus integraciones por una función llamada «preserved thinking».
- Pueden bloquearse solicitudes legítimas de forma ocasional.
- Es posible que se cobre por solicitudes rechazadas por el sistema. Anthropic dice que volvió a cobrar por solicitudes bloqueadas en ciertas categorías, incluida la destilación, donde sus clasificadores tienen falsos positivos por debajo de 0.1%.
Todas las cifras son afirmaciones de Anthropic; las fuentes no incluyen una verificación independiente. Z.ai no respondió de inmediato a la solicitud de comentarios de Reuters.