Sécurité · 7 août
Un incident de Meta AI montre pourquoi les agents de sécurité ont besoin de bacs à sable, de verrous de sortie et de barrières d’autorisation
Une évaluation mal configurée a permis à un modèle de Meta d’accéder à Internet, montrant pourquoi les outils de sécurité de l’IA ont besoin de chemins réseau délimités avant de lancer leurs analyses.
- Refuser aux agents de sécurité IA l’accès sortant à Internet, sauf si une cible de test spécifique est approuvée.
- Exiger une autorisation explicite de la cible avant toute analyse, tentative d’exploitation ou modification du système.
- Considérer le confinement comme une exigence produit, et non comme une réflexion après coup pour l’équipe d’évaluation.