Anthropic-KI-Test: Containment-Analyse

Das sauberste Sicherheitsdiagramm ist keine Firewall. Sobald ein KI-Agent Werkzeuge, Zugangsdaten, Dateien oder Netzwerkzugang hat, hört die Bewertung auf, ein Quiz zu sein, und ähnelt eher einem Einsatz. Genau dort ist die Anthropic-Auseinandersetzung nützlich, sofern wir nicht so tun, als würde die öffentliche Aktenlage mehr beweisen, als sie tatsächlich beweist. Einige Kommentare rund um Anthropic sind den verfügbaren Belegen vorausgeeilt. Das zitierfähige Material in diesem Briefing stützt Bedenken zu Architektur, Offenlegung, Sicherheitsbehauptungen und staatlicher Reaktion. Es belegt nicht, dass ein Modell reale Eindringversuche in drei Organisationen verursacht hat. Politikarbeit beginnt genau dort: mit der nüchternen Disziplin, die Vorfallsakte vom Gruppenchat zu trennen.

Antiy Labs zeigt, warum der Perimeter das Produkt ist

Antiy Labs sagte, sein Bericht sei durch Gerüchte des Reddit-Nutzers LegitMichel777 ausgelöst worden, Claude Code enthalte Spyware. Anschließend untersuchte Antiy Labs die Interaktion zwischen Anthropic-Client und Modelldienst, lokales Verhalten sowie Vergleiche von Datenschutzprotokollen über Web, Mobile, Desktop und Code hinweg. Das ist die richtige Ebene für die Prüfung, denn agentische Risiken leben meist zwischen Komponenten und nicht innerhalb eines einzelnen Prompts. Ein Modell ohne Werkzeugzugriff ist ein Textgenerator; ein Modell mit begrenzten Werkzeugen ist ein Workflowsystem; ein Modell mit breiten Werkzeugen ist ein Auftragnehmer, dessen Ausweis nie abläuft.

Antiy Labs sagte außerdem, seine Arbeit habe die Analyse von Claude-Code-Client-Beispielen und die binäre Dateianalyse von Antiy CERT im Zusammenhang mit Gerüchten über eine Claude-Desktop-Backdoor integriert. Die praktische Lehre ist nicht, dass jedes Gerücht zu einem Bericht über eine Sicherheitsverletzung wird. Sie lautet: Externe Prüfer werden die Leitungen testen, und vage Sicherheitssprache ersetzt keine Netzwerkgrenzen, keine Eingrenzung von Zugangsdaten und kein Inventar der Werkzeuge, die das Modell aufrufen kann.

AI Safety Claims macht die Offenlegungslücke sichtbar

AI Safety Claims hält fest, dass Claude 4 am 22. Mai 2025 veröffentlicht wurde, zusammen mit einem Evaluierungsbericht und einem Sicherheitsmaßnahmenbericht, die am selben Tag erschienen. Dort wird auch festgehalten, dass Claude Opus 4.1 am 5. August veröffentlicht wurde, mit einem System-Card-Addendum, das ebenfalls am 5. August erschien. Dieselbe Quelle sagt, dass Trainings- und interne Bereitstellungsdaten nicht gemeldet wurden. Das ist ein kleiner Satz mit einem großen Compliance-Schatten.

Diese Zeitleiste trennt Veröffentlichung von Eindämmung. Ein Evaluierungsbericht kann Käufern sagen, was das Unternehmen gemessen hat, aber er beweist für sich allein nicht, wie der Test isoliert wurde, wer Ziele autorisiert hat, welche Werkzeuge aktiviert waren oder wie schnell ein Lauf gestoppt werden konnte. Transparenz nach Art von Artikel 52, um die EU-Gewohnheit zu übernehmen, Produktfakten in Offenlegungspflichten zu verwandeln, ist kein Glücksarmband. Sie wird nützlich, wenn Verträge Werkzeuglisten, Audit-Logs, Vorfallsbenachrichtigungen, Grenzen für Datenaufbewahrung und schriftliche Autorisierung für jede Umgebung verlangen, die ein Agent berühren kann.

Benchmark-Werte sind keine Kontrollen

AI Safety Claims sagt, Anthropic habe Sonnet 4 als Modell ohne gefährliche Fähigkeiten beschrieben, während die Bio-Fähigkeiten von Opus 4 gefährlich sein könnten, und sagt, Anthropic habe für dieses Modell seinen ASL-3-Standard für Sicherheits- und Bereitstellungsschutzmaßnahmen umgesetzt. Dieselbe Analyse lobt die Evaluierungen, äußert aber Bedenken dazu, wie Anthropic die Ergebnisse interpretiert, einschließlich der Frage, welche Schwellenwerte tragend sind.

Diese Formulierung ist wichtig. Wenn ein Schwellenwert Bereitstellung, Zugriff oder Eindämmung nicht verändert, ist er eine Kennzahl, keine Kontrolle. Für Entwickler ist die einfache Pflicht, Evaluierungen als eingedämmte Operationen zu gestalten. Setze den Agenten in eine Sandbox ohne standardmäßigen ausgehenden Zugriff. Nutze synthetische oder ausdrücklich autorisierte Ziele. Begrenze Zugangsdaten auf den Test. Halte einen Kill Switch bereit, der Werkzeuge tatsächlich entzieht, nicht einen, der das Modell lediglich bittet, sich gut zu verhalten. Bewahre Logs auf, die Prompts, Werkzeugaufrufe, Berechtigungen, Netzwerkversuche und menschliche Genehmigungen zeigen. Wenn das eher nach Security Engineering als nach KI-Ethik klingt: gut. Genau so soll es sein.

Regulierungsbehörden werden nach Aufzeichnungen fragen, nicht

nach Stimmungen Forbes berichtete, dass die Federal Trade Commission OpenAI ein 20-seitiges Dokument schickte, in dem sie Unterlagen zu Herausforderungen der KI-Sicherheit anforderte. Das war keine Durchsetzungsmaßnahme gegen Anthropic, zeigt aber das regulatorische Muster. Behörden müssen Alignment nicht lösen, um zu fragen, wer was wusste, wann das Unternehmen es wusste, welche Tests durchgeführt wurden und ob Marketingaussagen zu internen Dateien passten.

Die BBC berichtete später, dass Anthropic Claude Fable 5 und Mythos 5 ausgesetzt habe, nachdem US-Behörden Sicherheitsbedenken geäußert hatten, und Reuters berichtete, dass die Europäische Kommission die praktischen Folgen einer Anthropic-Entscheidung prüfe. Unterschiedliche Fakten, derselbe Verwaltungsinstinkt: Wenn ein Modell leistungsfähig genug ist, um Sicherheitsfragen aufzuwerfen, beginnen Regierungen mit Zugriff, Dokumentation und Folgen.

Entwickler, die zwischen Rechtsräumen feststecken, sollten davon ausgehen, dass der engste sichere Weg ein operativer Nachweis sein wird, kein Blogbeitrag, der sagt, man begrüße Aufsicht. Der Weg nach vorn ist ziemlich prosaisch. Wenn du agentische KI kaufst oder baust, frage weniger nach dem Benchmark-Rang und mehr nach Belegen für Eindämmung. Die nächste ernsthafte Evaluierung eines Frontier-Modells sollte mit einem Grenzdiagramm, einem Autorisierungsregister, Werkzeugberechtigungen, Stoppverfahren und Audit-Trails kommen. Alles darunter ist eine Vertrauensübung im Laborkittel.