IA & ML · 6 juil.
La proposition de la FTC sur les biais de l’IA recommande de divulguer l’orientation cachée, et non d’interdire les biais
L’agence présente l’orientation secrète des résultats comme un problème de transparence pour les entreprises d’IA, et non comme une interdiction du biais lui-même.
- Traiter le pilotage caché des modèles comme un problème de divulgation et de conception de la confiance, et non comme une simple note juridique.
- Documenter les cas où la véracité entre en concurrence avec des objectifs de sécurité, de classement, de marque, de politique ou de recommandation.
- Tester les mécanismes de divulgation dans les parcours produit, car les avertissements dans les prompts peuvent ne pas modifier de manière significative le comportement du modèle.