Los compradores de IA empresarial se han visto atrapados entre dos cosas que ambos necesitan. Los equipos regulados necesitan una garantía de retención de datos cero (ZDR), por lo que no hay ningún aviso ni transcripción del agente en los servidores de un proveedor. Los equipos de seguridad necesitan detección de uso indebido, lo que históricamente requería que el proveedor conservara esos mismos datos el tiempo suficiente para correlacionarlos.
Esta semana, Anthropic anunció Enterprise Frontier Safeguards (EFS), una arquitectura que intenta ofrecer ambas cosas. EFS almacena los datos de monitoreo en la infraestructura de la nube que controla el cliente, no la de Anthropic. La detección se queda con Anthropic. La custodia, las claves y la revisión humana quedan en manos del cliente.
¿Se puede implementar hoy? Aún no. EFS se implementa en fases con el objetivo de lograr una amplia disponibilidad a finales de este otoño, y el acceso se basa en solicitudes. Hasta que se envíe, los clientes elegibles pueden ejecutar Claude Fable 5 y Fable 5.1 bajo ZDR.
El problema técnico que EFS está resolviendo
El motivo declarado por Anthropic para la retención es la calidad de la detección, no los datos de entrenamiento. La compañía introdujo la retención de datos durante 30 días a partir de Fable 5 y dice claramente que nunca se ha entrenado con datos empresariales sin un permiso explícito.
El argumento a favor de conservar datos es limitado y vale la pena replantearlo. El uso indebido más sofisticado que Anthropic ha observado se extiende a muchas tareas, sesiones y cuentas, incluidos casos que involucran credenciales empresariales robadas o malversadas. Ejecutar un clasificador automatizado en cada interacción y descartarlo instantáneamente no puede detectar esa forma de ataque. La correlación necesita una ventana. Anthropic ha documentado este patrón en su propio trabajo de interrupción del espionaje.
Los clientes regulados entendieron la lógica de seguridad y aún así no pudieron adoptarla. Entonces Anthropic movió la ventana en lugar de quitarla.
Lo que realmente cambia EFS
Anthropic creó EFS con más de 100 clientes en servicios financieros, atención médica, manufactura, telecomunicaciones, derecho, comercio minorista y el sector público, junto con AWS, Google Cloud y Microsoft Azure. Los contribuyentes incluyeron el Centro de Análisis y Resiliencia para Riesgos Sistémicos, cuyos miembros incluyen CISO de Goldman Sachs, Morgan Stanley, Citi, Bank of America y Wells Fargo, además de equipos de Comcast, KPMG, Mastercard, Salesforce y Visa. Anthropic dice que las conversaciones de diseño cubrieron una cuarta parte de Fortune 100 y todos los bancos sistémicamente importantes a nivel mundial de EE. UU.
De ese proceso surgieron tres decisiones de diseño:
El almacenamiento se traslada al cliente: los datos de actividad utilizados para el monitoreo pueden residir en la propia cuenta en la nube del cliente, bajo sus claves de cifrado, políticas de acceso y registros de auditoría. Las empresas le dijeron a Anthropic que la incorporación de otro proveedor de datos confiable genera notificaciones a los clientes y actualizaciones de contratos, por lo que la arquitectura evita la creación de uno. La revisión llega al cliente: cuando el monitoreo detecta un patrón que merece atención, la señal va directamente al cliente. La posición de Anthropic es que la revisión automatizada maneja el escaneo; una persona aún agrega valor al confirmar el uso indebido real y eliminar los falsos positivos, y en entornos regulados esa persona debe ser autorizada para acceder a material legal privilegiado, información no pública o informes de seguridad de los medicamentos. EFS ejecuta un monitoreo de seguridad automatizado sin necesidad de revisión humana antrópica. La detección permanece en Anthropic: los sistemas automatizados analizan una ventana de tráfico en busca de uso indebido grave, específicamente intentos de desarrollar capacidades cibernéticas o biológicas ofensivas y signos de credenciales robadas o filtradas.