IA & ML · 26 août
Les tests de sécurité de l’IA ont besoin de bacs à sable réalistes, pas seulement d’un isolement plus strict
Les rapports sur des modèles atteignant l’internet ouvert révèlent un compromis en matière de tests : une isolation plus stricte protège les systèmes, mais le réalisme révèle le comportement des agents.
- Testez l’ensemble du système d’agent, pas seulement le modèle de base ou l’ensemble de prompts.
- Utilisez un accès Internet contrôlé uniquement avec surveillance, autorisations, capture de preuves et escalade rapide.
- Évaluez conjointement la fidélité et le confinement des bacs à sable, car l’un ou l’autre seul peut vous induire en erreur.