IA & ML · 15 juin
Air Canada et son chatbot devant les tribunaux. Le modèle était correct. La gouvernance, non.
Cinq échecs réels de l'IA montrent que lorsque les déploiements tournent mal, le coupable n'est presque jamais le modèle lui-même.
- Les échecs en production de l'IA sont presque toujours des échecs de gouvernance : l'absence de couches de révision, un périmètre mal défini et l'inexistence de supervision humaine permettent à des erreurs normales du modèle de se transformer en pertes juridiques et financières.
- Avant de déployer toute IA orientée client, définissez explicitement ce que le système peut s'engager à faire, qui examine les résultats à enjeux élevés et ce qui se passe lorsque le modèle se trompe.
- La recherche en IA en entreprise se concentre de plus en plus sur le travail en amont du déploiement, laissant les risques liés au déploiement — comme les hallucinations et les biais — insuffisamment étudiés, ce qui signifie que les praticiens ne peuvent pas attendre que l'académie résolve ce problème à leur place.