Fatigue liée à la divulgation de l’IA : analyse UX du 2 août

Une mention IA sur une publicité peut aider. Une mention IA sur chaque publicité, recommandation, aide au calendrier et interaction avec le support peut devenir du papier peint. L’expression utile de WIRED pour ce problème est la lassitude face aux divulgations, le moment où un avis obligatoire existe légalement mais cesse de fonctionner dans les comportements. Le règlement européen sur l’IA ne demande pas aux utilisateurs d’admirer votre bannière de conformité. Il leur demande de comprendre quand l’IA est présente.

Ce que le 2 août demande réellement

WIRED rapporte qu’à partir du 2 août, les personnes dans l’Union européenne doivent être informées lorsqu’elles interagissent avec un système d’IA ou consultent du contenu généré ou modifié par cette technologie. Le même article de WIRED donne l’inventaire du quotidien : publicités, recommandations musicales, applications de gestion de calendrier et lignes d’assistance pour les réclamations, si elles utilisent l’IA, devront le dire aux Européens. C’est ce qui rend cette règle délicate sur le plan opérationnel. L’IA n’est pas limitée à une seule fenêtre de chatbot avec une étiquette bien rangée en haut. En termes d’obligations simples, cela signifie que les équipes produit ont besoin de deux inventaires, pas d’un seul. D’abord, lister les endroits où un utilisateur interagit avec un système d’IA, comme un chatbot ou une ligne d’assistance fondée sur l’IA. Ensuite, lister les endroits où un utilisateur voit du contenu généré ou modifié par l’IA, comme une publicité deepfake ou une publication d’entreprise modifiée sur les réseaux sociaux. Si le même utilisateur traverse quatre de ces surfaces en une seule session, la loi n’a pas magiquement résolu le problème d’UX. Elle a simplement rendu le problème visible.

Pourquoi la lassitude est le bug de conformité The Tech Buzz décrit clairement

le risque : des notifications constantes peuvent désensibiliser les utilisateurs aux avertissements censés les protéger. Il note aussi que les fournisseurs de logiciels d’entreprise font face à un grand défi de conformité, car l’IA alimente discrètement des applications, des fils de contenu et des interactions de service client. Ce n’est pas une raison pour éviter la divulgation. C’est une raison pour cesser de traiter la divulgation comme un texte standard décoratif. WIRED cite Frederiek Fernhout, avocat spécialisé en technologie chez Stibbe, qui déclare : « Si un fournisseur respecte vraiment les obligations de transparence, il deviendra très visible à quel point l’IA est utilisée. » Il a ajouté : « Surtout dans le marketing. » Lisez cela comme un avertissement produit, pas seulement comme un avertissement juridique. Si chaque élément de campagne, script de support et module de recommandation produit la même étiquette vague, les utilisateurs apprendront une seule chose : ignorer l’étiquette.

Le travail produit caché dans l’avis La version de Winzheng du rapport

de WIRED décrit le parcours utilisateur en termes directs : le service client en ligne peut ne pas avoir de vraie personne à l’autre bout, une vidéo de discours politique pourrait être un deepfake, et même un article peut avoir été produit avec l’aide de l’IA. Ce sont des risques différents. Un avis sur une ligne d’assistance pour les réclamations indique à une personne qui, ou quoi, traite son problème. Une étiquette deepfake indique à un spectateur de ne pas traiter un enregistrement comme une preuve ordinaire. Une phrase générique disant que l’IA a été impliquée ne remplit particulièrement bien aucune de ces deux fonctions. La loi exige une divulgation, pas du spam de fenêtres modales. Les concepteurs devraient concevoir les avis autour de la décision de l’utilisateur à ce moment-là : poursuivre la conversation, faire confiance au média, se fier à la recommandation ou chercher un canal humain. Cela signifie que l’étiquette utile est proche de l’interaction avec l’IA, précise sur ce que fait l’IA, et suffisamment durable pour être vue après le premier écran. Votre avocat spécialisé en confidentialité peut accepter une phrase conforme. Votre utilisateur peut ne pas la remarquer, ce qui est un échec différent avec le même résultat pratique.

Ce qu’il faut surveiller après l’arrivée des étiquettes

WIRED indique que les règles de transparence du règlement européen sur l’IA visent à réduire la tromperie et la manipulation, et à aider les personnes à faire des choix éclairés. Cette intention sera mise à l’épreuve dans des interfaces ordinaires, pas dans des discours politiques. La question intéressante après le 2 août est de savoir si les entreprises mesureront si les utilisateurs comprennent l’avis, ou seulement si une étiquette existait quelque part dans le parcours. Les captures d’écran de conformité sont utiles pour les audits. Elles le sont moins pour les humains qui essaient de décider si une voix, une image, une réponse ou une recommandation mérite leur confiance. Pour les concepteurs, la prochaine tâche est peu glamour et nécessaire : cartographier les points de contact avec l’IA, classer le type d’avis et supprimer les formulations en double qui entraînent les gens à arrêter de lire. Pour les apprenants et les utilisateurs, attendez-vous à découvrir à quel point l’automatisation était déjà présente dans la vie numérique routinière. La règle rend cette automatisation plus difficile à cacher. Savoir si elle devient plus facile à comprendre est désormais un problème de conception, là où de nombreux programmes de conformité vont discrètement apprendre l’humilité.