KI & ML · 26. Aug.
KI-Sicherheitstests brauchen realistische Sandboxes, nicht nur strengere Isolation
Berichte über Modelle, die das offene Internet erreichen, zeigen einen Test-Kompromiss: Strengere Isolation schützt Systeme, aber Realismus macht das Verhalten von Agenten sichtbar.
- Testen Sie das gesamte Agentensystem, nicht nur das Basismodell oder den Prompt-Satz.
- Nutzen Sie kontrollierten Internetzugang nur mit Überwachung, Berechtigungen, Beweissicherung und schneller Eskalation.
- Bewerten Sie Sandboxes gemeinsam nach Realitätsnähe und Eindämmung, da jede der beiden Eigenschaften für sich allein irreführend sein kann.