Pruebas de IA de Anthropic: Análisis de contención

La tabla de seguridad más clara no es un firewall. Una vez que un agente de IA tiene herramientas, credenciales, archivos o acceso a la red, la evaluación deja de ser un cuestionario y empieza a parecerse a una operación. Ahí es donde la disputa sobre Anthropic resulta útil, siempre que no finjamos que el registro público demuestra más de lo que realmente demuestra. Algunos comentarios sobre Anthropic se han adelantado a la evidencia disponible. El material citable de este informe respalda preocupaciones sobre arquitectura, divulgación, afirmaciones de seguridad y respuesta gubernamental. No establece que un modelo haya causado intrusiones en el mundo real en tres organizaciones. El trabajo de políticas empieza ahí, con la disciplina aburrida de separar el expediente del incidente del chat grupal.

Antiy Labs muestra por qué el perímetro es

el producto Antiy Labs dijo que su informe fue motivado por rumores del usuario de Reddit LegitMichel777 de que Claude Code contenía spyware, y luego examinó la interacción entre el cliente de Anthropic y el servicio del modelo, el comportamiento local y comparaciones de protocolos de privacidad en Web, Mobile, Desktop y Code. Esa es la capa correcta para inspeccionar, porque el riesgo agéntico suele vivir entre componentes, no dentro de un solo prompt. Un modelo sin acceso a herramientas es un generador de texto; un modelo con herramientas delimitadas es un sistema de flujo de trabajo; un modelo con herramientas amplias es un contratista cuya credencial nunca expira.

Antiy Labs también dijo que su trabajo integró análisis de muestras del cliente Claude Code y análisis de archivos binarios de Antiy CERT relacionados con rumores de una puerta trasera en Claude Desktop. La lección práctica no es que cada rumor se convierta en un informe de brecha. Es que los revisores externos pondrán a prueba la fontanería, y un lenguaje de seguridad impreciso no sustituirá los límites de red, la delimitación de credenciales y un inventario de herramientas que el modelo puede invocar.

AI Safety Claims hace visible la brecha de divulgación

AI Safety Claims registra que Claude 4 se lanzó el 22 de mayo de 2025, con un informe de evaluación y un informe de salvaguardas publicados el mismo día. También registra que Claude Opus 4.1 se lanzó el 5 de agosto, con un apéndice de la tarjeta del sistema publicado el 5 de agosto. La misma fuente dice que no se informaron las fechas de entrenamiento ni de despliegue interno, lo cual es una frase pequeña con una gran sombra de cumplimiento.

Ese calendario separa la publicación de la contención. Un informe de evaluación puede decir a los compradores qué midió la empresa, pero por sí solo no demuestra cómo se aisló la prueba, quién autorizó los objetivos, qué herramientas estaban habilitadas ni con qué rapidez podía detenerse una ejecución. La transparencia al estilo del artículo 52, por tomar prestado el hábito de la UE de convertir hechos del producto en deberes de divulgación, no es una pulsera de amuletos. Se vuelve útil cuando los contratos exigen listas de herramientas, registros de auditoría, notificación de incidentes, límites de retención de datos y autorización por escrito para cualquier entorno que un agente pueda tocar.

Las puntuaciones de referencia no son controles

AI Safety Claims dice que Anthropic caracterizó a Sonnet 4 como un modelo sin capacidades peligrosas, mientras que las capacidades biológicas de Opus 4 pueden ser peligrosas, y dice que Anthropic implementó su estándar ASL 3 de salvaguardas de seguridad y despliegue para ese modelo. El mismo análisis elogia las evaluaciones, pero plantea preocupaciones sobre cómo Anthropic interpreta los resultados, incluyendo qué umbrales sostienen decisiones importantes.

Esa frase importa. Si un umbral no cambia el despliegue, el acceso o la contención, es una métrica, no un control. Para quienes construyen estos sistemas, la obligación clara es diseñar evaluaciones como operaciones contenidas. Coloca al agente en un entorno aislado sin acceso saliente predeterminado. Usa objetivos sintéticos o explícitamente autorizados. Delimita las credenciales a la prueba. Mantén un interruptor de apagado que realmente revoque herramientas, no uno que simplemente le pida al modelo que se comporte. Conserva registros que muestren prompts, llamadas a herramientas, permisos, intentos de red y aprobaciones humanas. Si eso suena a ingeniería de seguridad más que a ética de IA, bien. Así debe ser.

Los reguladores pedirán registros, no sensaciones

Forbes informó que la Comisión Federal de Comercio envió a OpenAI un documento de 20 páginas solicitando registros relacionados con desafíos de seguridad de IA. Eso no fue una acción de aplicación contra Anthropic, pero muestra el patrón regulatorio. Las agencias no necesitan resolver la alineación para preguntar quién sabía qué, cuándo lo supo la empresa, qué pruebas se realizaron y si las afirmaciones de marketing coincidían con los archivos internos.

La BBC informó más tarde que Anthropic suspendió Claude Fable 5 y Mythos 5 después de que las autoridades estadounidenses plantearan preocupaciones de seguridad, y Reuters informó que la Comisión Europea estaba examinando las consecuencias prácticas de una decisión de Anthropic. Hechos distintos, mismo instinto administrativo: cuando un modelo es lo bastante potente como para plantear preguntas de seguridad, los gobiernos empiezan por el acceso, la documentación y las consecuencias. Los constructores atrapados entre jurisdicciones deberían asumir que el camino seguro más estrecho será la prueba operativa, no una entrada de blog diciendo que dan la bienvenida a la supervisión.

El camino hacia adelante es bastante prosaico. Si estás comprando o construyendo IA agéntica, pregunta menos por la posición en los benchmarks y más por la evidencia de contención. La próxima evaluación seria de un modelo frontera debería llegar con un diagrama de límites, un registro de autorizaciones, permisos de herramientas, procedimientos de detención y trazas de auditoría. Cualquier cosa menor es un ejercicio de confianza con bata de laboratorio.