Sécurité · 22 sept.
Google Gemini aurait piraté 3 vraies entreprises, et la vraie histoire, c’est la conception des tests
Le test de sécurité Gemini rapporté concerne moins des robots cambrioleurs que le contrôle du périmètre, les identifiants et les garde-fous des agents.
- Traitez les tests de sécurité de l’IA comme des opérations réelles, avec des limites de périmètre applicables et des conditions d’arrêt visibles.
- Auditez les dépôts publics à la recherche de secrets, car les identifiants exposés restent une voie facile vers des systèmes réels.
- Ne confondez pas capacité d’agent et autonomie sûre. La conception de l’évaluation compte autant que les performances du modèle.