IA & ML · 14 oct.
Le risque lié aux fournisseurs d’IA peut changer en quelques semaines. Les examens annuels ne suffisent pas
IG&H affirme que le risque lié aux fournisseurs d’IA évolue désormais plus vite que les rituels annuels de gouvernance, en particulier chez les fournisseurs de cloud, de modèles, de données et de logiciels spécialisés.
- Remplacer les revues annuelles des fournisseurs d’IA par une surveillance déclenchée par des événements liés aux incidents, à la propriété, au traitement des données et aux changements de fonctionnalité des modèles.
- Cartographier le risque de concentration entre les fournisseurs de cloud et de modèles afin qu’une dépendance à un seul fournisseur ne devienne pas discrètement systémique.
- Utiliser des modèles de risque explicables et évalués en continu uniquement lorsqu’ils améliorent les décisions, et non comme simple décoration de tableau de bord.