KI & ML · 14. Aug.
KI-Cybersimulationen von Irregular machen die Sicherheit von Frontier-Agenten zu einem Infrastrukturproblem
Da Modelle Webzugriff erhalten, besteht die schwierige Aufgabe nicht mehr darin, Slogans zu polieren. Sie besteht darin, Tests zu entwickeln, die sicher fehlschlagen.
- Behandeln Sie Agentensicherheit als Evaluierungsinfrastruktur, nicht als Schlagwort oder einmalige Checkliste.
- Nutzen Sie szenariobasierte Cybertests, um Planung, Tool-Nutzung, Einschränkungen und Wiederherstellung zu messen.
- Halten Sie Sandboxes, Netzwerkkontrollen und Bereitstellungsschranken streng, bevor Sie echte Berechtigungen gewähren.