Les protections contre les biais de l’IA peuvent créer un risque juridique lié à la FTC : analyse

La question délicate de conformité n’est plus seulement de savoir si un système d’IA est biaisé. Elle est de savoir si le filtre, la règle de prompt, la couche de sécurité ou le réglage d’équité vendu comme solution au biais crée son propre problème de protection des consommateurs. C’est une douche plus froide que la présentation habituelle sur l’équité, et probablement plus utile. Reuters rapporte que la Federal Trade Commission a déclaré que les entreprises d’IA dont les chatbots produisent des réponses reflétant des « objectifs idéologiques » pourraient violer la loi fédérale, dans le cadre d’une proposition de politique sur la manière dont l’agence appliquera son autorité au secteur. Forth, qui a également signalé un élément de la FTC, identifie l’action de l’agence comme une demande de commentaires publics sur une déclaration de politique portant sur l’exactitude de l’IA. Traduction : une fonctionnalité d’atténuation n’est pas un badge de vertu. C’est une allégation produit, et les allégations produit ont besoin de preuves.

La proposition transforme les garde-fous en allégations

Selon Reuters, l’avertissement concerne les entreprises d’IA et les chatbots, pas un débat abstrait sur la question de savoir si les modèles devraient être neutres dans une salle de séminaire. Le point d’ancrage en droit de la consommation est pratique : si les réponses d’un chatbot reflètent des « objectifs idéologiques », la FTC affirme que cela pourrait contrevenir à la loi fédérale dans le cadre de la politique proposée. Cela place le risque dans une zone inconfortable pour les concepteurs, car le comportement contesté peut venir précisément de la couche censée rendre le système plus sûr ou moins biaisé.

Le résumé de Forth est important parce qu’il présente l’élément de la FTC comme une déclaration de politique portant sur l’exactitude de l’IA et une demande de commentaires publics. Cela signifie que la posture immédiate est celle d’une politique proposée, et non d’une règle finale avec une date d’application divulguée dans les résumés disponibles. Malgré tout, une politique proposée peut façonner les attentes en matière d’application, les questionnaires fournisseurs et les scripts que les équipes commerciales utilisent lorsque des acheteurs d’entreprise demandent si un outil d’IA est équitable, neutre ou exact. La FTC n’a pas besoin d’un nouvel adjectif venu de LinkedIn pour se soucier de savoir si un consommateur a été induit en erreur.

L’ancien point d’ancrage reste la tromperie et l’injustice

L’analyse de Holland & Knight indique que la FTC est compétente en matière de pratiques commerciales trompeuses et injustes, ainsi que de lois et réglementations régissant la protection des consommateurs et la concurrence. Le cabinet décrit également la position de l’agence comme l’application de principes familiers de tromperie et d’injustice aux produits modernes d’IA. C’est la partie que beaucoup d’équipes IA lisent trop vite : la nouveauté du modèle ne rend pas l’allégation marketing nouvelle aux yeux du régulateur.

En pratique, cela signifie qu’un garde-fou contre les biais devrait être traité comme toute autre allégation sur les performances d’un produit. Si l’entreprise dit que le système réduit les biais, améliore l’exactitude, fournit des réponses équilibrées ou évite les résultats nuisibles, quelqu’un devrait pouvoir montrer ce qui a été testé, par rapport à quel référentiel, et avec quelles limites. Si la réponse est une diapositive disant que l’entreprise s’en soucie profondément, félicitations, vous avez découvert un artefact de conformité sans calories. Les anciens mécanismes de protection des consommateurs de la FTC sont tout à fait capables d’en faire leur petit-déjeuner.

Pourquoi les contrôles de biais ont besoin

de justificatifs K&L Gates a retracé un signal antérieur de la FTC jusqu’à un billet de blog publié le lundi 19 avril 2021, avertissant les entreprises de s’assurer que leur IA ne reflète pas de biais raciaux ou de genre. Le cabinet a indiqué que le billet suggérait qu’un manquement à cette obligation pourrait entraîner des accusations de tromperie, de discrimination et une action d’application de la loi par la FTC. Cet avertissement antérieur a poussé les entreprises vers l’atténuation des biais. Le nouvel avertissement rapporté par Reuters ajoute la seconde moitié du problème : l’atténuation elle-même peut créer un risque si elle est opaque, exagérée dans ses promesses ou mal testée.

La leçon de conformité n’est pas d’arrêter de construire des garde-fous. Elle est d’arrêter de traiter les garde-fous comme des formules magiques. Un contrôle de réduction des biais devrait avoir un court dossier interne : ce qu’il modifie, qui a approuvé l’objectif de conception, comment il a été testé, quels modes de défaillance subsistent et ce qui est dit aux utilisateurs. Les contrats fournisseurs devraient exiger une documentation comparable, car un client qui déploie le chatbot n’appréciera pas de découvrir en production que la fonctionnalité d’équité du fournisseur relevait davantage de l’aspiration que d’une fonction testée.

Ce qui change maintenant pour les concepteurs

Reuters décrit l’action de la FTC comme faisant partie d’une politique proposée sur la manière dont l’agence appliquera son autorité à l’IA, tandis que Forth identifie l’élément connexe de la FTC comme une consultation publique sur l’exactitude de l’IA. Pour les concepteurs, la réponse utile n’est pas la panique. C’est du ménage avec une colonne vertébrale juridique : cartographier chaque allégation d’équité, de biais, de neutralité et d’exactitude dans le produit, le centre d’aide, les supports commerciaux et les réponses aux achats. Puis associer chaque allégation à des preuves, ou la réviser jusqu’à ce que l’allégation corresponde aux preuves.

La frontière entre contrôle d’ingénierie et déclaration au consommateur devient mince dès que les utilisateurs la voient ou que les acheteurs s’y fient. Une couche de sécurité cachée doit tout de même être testée comme produit si elle modifie les résultats d’une manière qui affecte l’exactitude. Un bouton ou une étiquette visible a besoin d’une explication qu’un utilisateur ordinaire peut comprendre. Une promesse commerciale a besoin d’être étayée avant de quitter le bâtiment, ce qui est généralement le moment où les juristes commencent à traduire « nous accueillons favorablement la clarté des régulateurs » en invitation de calendrier.

La prochaine chose à surveiller est de savoir si la politique proposée par la FTC devient finale et comment l’agence décrit l’exactitude, les biais et les objectifs idéologiques dans toute déclaration ou action d’application ultérieure. D’ici là, les équipes IA peuvent faire un travail utile sans attendre : rendre le garde-fou explicable, le tester comme une fonctionnalité produit et le décrire avec l’humilité que les preuves peuvent soutenir. Les bonnes intentions sont agréables. Les éléments de preuve sont ce qui survit à la procédure de communication des pièces.