Retour de bâton contre le contenu IA médiocre : WIRED sur les labels et interdictions des plateformes

J’ai commencé à faire un tout petit rituel d’enquête avant de croire quoi que ce soit dans mon fil. Je regarde les mains, puis les ombres, puis la légende, puis le compte, puis ma propre envie de me laisser piéger. Le geste prend moins d’une seconde, mais il change l’ambiance du défilement : on passe de la détente à l’inspection. Internet n’est pas devenu inutilisable parce que les machines ont appris à fabriquer des images, des vidéos et des paragraphes. Il est devenu plus étrange parce que l’ancien contrat social du fil — l’idée qu’une publication venait de quelqu’un qui avait une raison de la publier — semble soudain négociable.

Le contrecoup devient une interface

Reece Rogers, de WIRED, donne à ce changement une échelle humaine très utile : en fouillant dans les paramètres d’Instagram, Rogers a essayé de désactiver une fonctionnalité de Meta, aujourd’hui abandonnée, qui permettait à n’importe qui de créer des deepfakes d’IA de l’auteur sans son consentement. Cette anecdote compte parce qu’elle ne concerne pas seulement un réglage caché dans une application. C’est le moment où un utilisateur comprend qu’il a été transformé en entrée potentielle pour la sortie synthétique de quelqu’un d’autre. L’idée plus large de l’article de WIRED est que les plateformes reconnaissent que les gens ne veulent pas consommer de la bouillie IA, et que davantage de sites et d’applications disposent désormais d’outils et de règles pour signaler, étiqueter et interdire les contenus générés par l’IA.

Cela peut sembler procédural, presque ennuyeux, et c’est précisément pour cela que c’est important. Le contrecoup devient une exigence produit. Si les utilisateurs ne peuvent pas savoir si quelque chose a été créé par une personne, par un modèle ou par un mélange flou des deux, ils cessent de faire confiance à la surface même du produit.

C’est le mouvement auquel les concepteurs devraient prêter attention. Les étiquettes ne sont pas des autocollants décoratifs de conformité. Elles font partie de l’interface, comme une icône de cadenas dans un navigateur ou un badge de vérification à côté d’une personnalité publique. La question n’est plus de savoir si les plateformes peuvent héberger des médias générés par l’IA. La question est de savoir si elles peuvent rendre visibles l’auteur, le consentement et la fiabilité au moment où l’utilisateur en a besoin.

Le problème du faux mariage

UChicago CS News rend le problème de confiance douloureusement concret avec l’exemple d’une publication Instagram montrant de fausses photos, générées par l’IA, du mariage de Zendaya. Selon le rapport de l’Université de Chicago, la fausse photo de mariage de Zendaya et Tom Holland a reçu plus de dix millions de mentions « J’aime », et beaucoup de personnes ont cru qu’elle était réelle. Ce n’est pas un échec de la viralité. C’est la viralité qui fonctionne exactement comme prévu.

L’article d’UChicago se concentre sur Lan Gao, doctorante de troisième année au département d’informatique de l’Université de Chicago, qui étudie la manière dont les plateformes sociales gouvernent un écosystème en ligne en évolution. La question dans ce cadre de recherche est simple et inconfortable : quand les contenus générés par l’IA deviennent courants, comment les plateformes en ligne devraient-elles les encadrer pour que les gens puissent encore faire confiance à ce qu’ils voient et partagent ?

Une fausse image de mariage de célébrité est un enjeu faible comparé à des conseils de santé, des images de catastrophe ou des affirmations politiques. Mais elle montre à quelle vitesse les médias synthétiques peuvent emprunter la grammaire émotionnelle de la vérité. C’est là que le mot « bouillie » peut nous induire en erreur. Il donne l’impression que le problème est un mauvais contenu, alors que l’enjeu plus profond est l’effondrement du contexte. Une fausse image peut être belle, inoffensive, même divertissante, jusqu’à ce qu’elle circule sans l’étiquette qui indique aux spectateurs comment la comprendre.

Toute la bouillie n’est pas le même désordre

NBC News rapporte que LinkedIn, Snap et d’autres plateformes intensifient leurs efforts pour contenir les contenus d’IA de faible qualité, produits en masse, sans interdire complètement la technologie. Cette distinction est importante. La réponse la plus saine des plateformes n’est pas un rejet global des outils synthétiques, parce que les gens les utilisent déjà pour des blagues, des brouillons, de l’art, l’accessibilité, la traduction et l’expérimentation. La ligne la plus utile se situe entre l’expression et la pollution.

Caiwei Chen, de MIT Technology Review, offre le contrepoint culturel en décrivant la bouillie IA non seulement comme Internet en train de pourrir en temps réel, mais aussi comme une première ébauche d’un nouveau type de culture populaire. C’est cette partie qui rend la modération difficile. Certains travaux générés par l’IA sont du remplissage spammy. Certains sont de l’art populaire avec un bouton de rendu. Certains sont trompeurs, d’autres sont un jeu étiqueté, et beaucoup se situent maladroitement entre les catégories.

Le Reuters Institute expose les enjeux pour le journalisme et la sphère publique en décrivant la bouillie IA comme des textes vagues remplis de mots à la mode, des illustrations de mèmes fabriquées à la hâte, ou des articles dont le ton ou les faits semblent faux. Remarquez l’ambiguïté de cette description. Le danger n’est pas toujours une seule affirmation fausse. Parfois, c’est le remplacement progressif d’une communication intentionnelle par une texture plausible.

Les créateurs de plateformes possèdent désormais la provenance

Le reportage de WIRED sur Medium montre pourquoi les plateformes ne peuvent pas traiter cela comme un simple problème de modération de niche. WIRED a demandé à Pangram Labs d’analyser un échantillon de 274 466 publications récentes de Medium sur une période de six semaines, et Pangram a estimé que plus de 47 % étaient probablement générées par l’IA. Tony Stubblebine, PDG de Medium, et d’autres dirigeants ont décrit la plateforme comme un foyer pour l’écriture humaine, selon WIRED, ce qui fait que cette estimation ressemble moins à un problème de contenu qu’à un problème d’identité.

La propre politique de WIRED sur l’IA générative offre un autre signal utile. La publication affirme ne pas publier d’articles dont le texte est généré par l’IA, tout en reconnaissant que les outils d’IA peuvent aider pour des tâches comme les transcriptions et les résumés. Que chaque organisation trace ou non la même ligne est moins important que l’existence d’une ligne que les utilisateurs peuvent comprendre.

Voilà la leçon de conception cachée dans le contrecoup contre la bouillie IA. La confiance n’est plus quelque chose qu’une plateforme peut simplement revendiquer dans une page « À propos ». Elle doit s’exprimer dans les paramètres par défaut, les étiquettes, les parcours de signalement, les systèmes de classement et les politiques que les utilisateurs rencontrent avant qu’on leur demande de croire, de partager ou d’agir.

Pour les lecteurs, les créateurs et les équipes produit, la prochaine habitude utile pourrait être de demander non seulement ce qu’un outil peut générer, mais aussi quel contexte il préserve. Si le fil devient synthétique par défaut, qui décide de ce qui est assez réel pour circuler ?