Analyse de l’avertissement de la FTC sur les biais de l’IA : corriger les biais peut enfreindre la loi

La réunion de conformité la plus gênante est celle où tout le monde convient que le contrôle partait d’une bonne intention, puis où l’avocat demande ce qu’il a réellement fait aux utilisateurs. L’atténuation des biais de l’IA a acquis l’éclat d’une étiquette vertueuse, ce qui est pratique pour les présentations, et moins pratique pour le droit de la consommation. Selon Reuters, la Federal Trade Commission a déclaré mercredi que les entreprises d’IA dont les chatbots produisent des réponses reflétant des « objectifs idéologiques » pourraient violer la loi fédérale, dans le cadre d’une proposition de politique sur la manière dont l’agence appliquera son autorité au secteur. Forth a signalé séparément l’élément de la FTC comme une demande de commentaires publics sur une déclaration de politique concernant l’exactitude de l’IA. Traduction : la FTC ne dit pas que le travail sur les biais est interdit. Elle dit qu’une protection peut tout de même poser un problème de droit de la consommation si elle déforme les résultats, induit les utilisateurs en erreur, ou est vendue avec plus de certitude qu’elle n’en mérite.

Ce que l’avertissement de la FTC change réellement

Reuters rapporte que la FTC a formulé le problème autour des entreprises d’IA et des réponses des chatbots, ce qui en fait une obligation produit, et pas seulement un sujet pour comité d’éthique. Si une couche de modèle, une règle de refus, une règle de classement, une enveloppe de prompt ou un système de modération pousse les réponses vers un objectif non divulgué, la question juridique n’est pas de savoir si l’équipe a appelé cela de la sécurité. La question est de savoir si les consommateurs ont reçu ce qui leur avait été promis, et si le système a causé un préjudice évitable selon la théorie de protection des consommateurs de la FTC.

L’élément du flux FTC de Forth décrit l’action de l’agence comme un processus de commentaires publics sur l’exactitude de l’IA ; les concepteurs devraient donc traiter cela comme une politique proposée, et non comme une nouvelle échéance opérationnelle avec une date de conformité claire. Cette distinction compte. Une politique proposée ne réécrit pas la feuille de route produit du jour au lendemain, mais elle indique aux plaignants, aux régulateurs des États, aux acheteurs professionnels et à vos propres conseillers juridiques ce que l’agence surveille. La bonne démarche consiste à inventorier les protections dès maintenant, avant que la page marketing et le comportement du modèle ne commencent à raconter des histoires différentes.

Le fondement juridique n’est pas nouveau

L’analyse de Holland and Knight sur la supervision de l’IA par la FTC indique que l’agence est compétente en matière de pratiques commerciales trompeuses et déloyales, et que la FTC soutient que les mêmes principes s’appliquent aux produits technologiques modernes. C’est la partie aride, donc généralement la partie importante. La FTC n’a pas besoin d’une loi spécifique à l’IA pour demander si une entreprise a exagéré l’exactitude, dissimulé des limites importantes, ou déployé un système qui a prévisiblement causé un préjudice aux consommateurs.

C’est ici que le folklore de conformité sur LinkedIn a tendance à s’égarer. La loi ne dit pas que tout ce qui est étiqueté atténuation des biais est présumé sûr. Elle ne dit pas non plus que toute tentative de réduire les sorties préjudiciables est suspecte. L’obligation est plus étroite et plus agaçante : savoir ce que fait le contrôle, vérifier s’il le fait réellement, éviter les affirmations que vous ne pouvez pas étayer, et divulguer les limites importantes lorsque les utilisateurs seraient raisonnablement susceptibles de s’en soucier.

Pour un concepteur, cela signifie que l’artefact de conformité n’est pas une affiche sur l’IA responsable. C’est le journal des modifications de la protection, les résultats d’évaluation avant et après le déploiement, le dossier d’approbation montrant qui a accepté les compromis, et le langage présenté à l’utilisateur qui correspond au comportement du système. Si un chatbot est présenté comme neutre, exact ou personnalisé, ces mots doivent être appuyés par des preuves. Si le produit oriente intentionnellement les réponses pour des raisons de sécurité, d’exactitude ou de politique, l’équipe devrait pouvoir expliquer la limite sans prétendre qu’elle n’existe pas.

Les outils contre

les biais peuvent créer leurs propres risques pour les consommateurs

La FTC tourne autour de ce problème depuis des années, non pas parce que l’IA est magique, mais parce que l’automatisation rend les erreurs répétables à grande échelle. Dans un communiqué de presse de 2022, la FTC a décrit un rapport mettant en garde contre l’utilisation de l’intelligence artificielle pour lutter contre les problèmes en ligne. La leçon se transpose facilement : utiliser l’IA pour résoudre un problème de plateforme ne met pas la solution à l’abri de l’examen.

Les protections contre les biais peuvent échouer de plusieurs manières très ordinaires. Elles peuvent surcorriger et refuser des informations utiles à certains utilisateurs. Elles peuvent être moins performantes que prévu alors que l’entreprise affirme qu’elles rendent le système plus équitable ou plus exact. Elles peuvent introduire des priorités éditoriales non divulguées dans un produit vendu comme objectif. Aucune de ces situations ne nécessite un méchant. Elles nécessitent une chaîne d’approvisionnement, une note de version que personne n’a lue attentivement, et un tableau de bord qui mesure le taux de refus du modèle mais pas la compréhension du consommateur.

C’est aussi une question de contrat fournisseur. Si un tiers fournit un modèle, une couche de modération, une suite d’évaluation ou un filtre de sécurité, le contrat devrait identifier qui définit l’objectif d’atténuation, qui peut le modifier, qui reçoit les résultats des tests, et qui est responsable lorsque les affirmations produit s’éloignent du comportement réel. Les titres d’articles et les tables rondes de conférences peuvent appeler cela de la gouvernance. La FTC demandera plus probablement des justificatifs.

Ce que les équipes IA devraient faire maintenant

Le compte rendu de Reuters sur la politique proposée par la FTC donne aux équipes IA une ligne de séparation pratique : distinguer l’exigence juridique du branding moral. Une entreprise peut décider qu’elle veut des protections contre les biais, pour l’exactitude, la sécurité ou la confiance des utilisateurs. Très bien. Mais dès que ces protections influencent ce que les consommateurs voient, les contrôles nécessitent le même examen que les affirmations de prix, les avis de confidentialité et les textes publicitaires.

Le résumé de Holland and Knight sur l’autorité de la FTC pointe vers trois chantiers qui devraient être traités ensemble. Le service juridique examine si les affirmations sont trompeuses ou si les pratiques sont déloyales. Le produit examine comment la protection modifie les sorties pour de vrais utilisateurs. L’UX examine si les divulgations sont compréhensibles au moment où l’utilisateur s’appuie sur la réponse. Si ces équipes ne sont pas dans la même pièce, l’entreprise ne fait pas de gouvernance de l’IA. Elle fait du stockage de documents avec de plus jolies polices.

Le point à surveiller à court terme est la position finale de la FTC après les commentaires publics, comme le note le résumé de Forth sur le processus de déclaration de politique. D’ici là, la règle pratique est assez simple : l’atténuation des biais est un contrôle, pas une auréole. Les concepteurs devraient la tester, la documenter, la décrire avec exactitude, et obliger les fournisseurs à respecter la même discipline. Cela ne rendra pas chaque réponse de chatbot parfaite. Mais cela rendra le dossier de conformité moins embarrassant lorsque quelqu’un demandera pourquoi la protection a fait quelque chose que l’équipe produit n’avait jamais annoncé.