La détection de l’IA par Substack fait du contenu humain un signal payant

Le nouveau signe de prestige sur Substack ne sera peut-être pas une liste plus longue, un badge plus brillant ou une nouvelle pique dans Notes. Ce sera peut-être un lecteur qui regarde un essai derrière un paywall et se dit : quelqu’un l’a vraiment écrit. C’est le petit tournant étrange dans la décision de Substack autour de Pangram. La détection de l’IA est présentée moins comme un marteau de modération que comme un reçu pour du travail fait par des humains.

Ce que Substack lance réellement

Selon Simon Hernandez-Arthur chez Axios, Substack s’associe à Pangram pour permettre aux utilisateurs d’estimer quelle part des textes de la plateforme, y compris les publications et les commentaires, a été produite avec l’IA. Le PDG de Substack, Chris Best, a présenté cette décision dans Against Claudefishing comme un problème de confiance, en écrivant qu’il devient de plus en plus difficile de savoir ce qui est réel sur Internet. Emma Roth, de The Verge, a rapporté que l’outil peut analyser les publications, les notes, les réponses et les commentaires, ce qui signifie que cela ne se limite pas aux essais de newsletters. Cela touche toute la couche sociale de Substack, autrement dit la partie où les créateurs cultivent leur relation avec les abonnés avant que le paywall n’entre en jeu.

On Substack a ensuite indiqué que les outils sont disponibles sur le web, iOS et Android, et que les éditeurs peuvent utiliser Pangram sur des brouillons avant publication, désactiver l’analyse publication par publication, et ajouter une déclaration « Comment je fais cela ». Le même billet précise que ces fonctionnalités n’utilisent pas le contenu des éditeurs, que ce soit via Substack ou Pangram, pour entraîner des modèles d’IA générative. Traduction : Substack essaie de faire en sorte que la transparence ressemble à une infrastructure de publication, pas à une lettre écarlate. La plateforme peut dire qu’elle soutient l’usage de l’IA tout en incitant les créateurs à expliquer leur méthode de travail avant que les lecteurs ne commencent à jouer aux experts médico-légaux amateurs dans les commentaires.

Pourquoi le fait-main par des humains devient un signal payant

Axios fait ici le calcul de la monétisation à voix haute. Hernandez-Arthur rapporte que Substack parie que les abonnés, ainsi que les sponsors attirés par ces abonnés, accordent de la valeur au travail créé par des humains et sont prêts à payer pour cela. C’est la véritable mise à jour de plateforme cachée dans l’annonce produit. L’analyse ne sert pas seulement à étiqueter du texte synthétique ; elle donne aux créateurs une nouvelle façon d’expliquer pourquoi un abonnement vaut la peine d’être renouvelé, et elle donne aux sponsors une histoire plus nette sur la publication à laquelle ils sont associés.

Le point contre-intuitif, c’est que la détection pourrait rendre l’écriture assistée par l’IA plus normale, et non moins, parce que l’invite produit devient : expliquez votre processus. On Substack a indiqué que, selon l’entreprise, l’utilisation de l’IA n’est pas nécessairement le problème, contrairement au manque de transparence. Ce cadrage compte, car les créateurs naviguent déjà dans une zone intermédiaire confuse : brouillons, résumés, modifications, prompts de recherche et publications entièrement générées sont tous aplatis dans un même énorme amas de débat. Substack essaie de séparer la méthode de travail de la tromperie, ce qui est une distinction utile si le produit ne prétend pas savoir plus que ce que la détection peut réellement connaître.

Le risque pour les créateurs, c’est la réputation, pas seulement

la politique AI Weekly, en résumant un reportage de 404 Media, a bien saisi l’inquiétude des auteurs : les scores en pourcentage peuvent ressembler moins à du contexte qu’à une note publique. L’article citait Mack Collier, auteur de Backstage Pass, disant qu’il « ne va pas s’excuser d’utiliser l’IA dans le processus de création », tandis qu’Alice Lemee avertissait que « ces détecteurs sont notoirement, incroyablement imprécis », et qu’une fausse accusation peut nuire à la réputation d’un auteur. Voilà le drame sans changement de costume : les créateurs veulent être reconnus pour leur travail, les lecteurs veulent moins de publications au contenu douteux, et personne ne veut qu’un haussement d’épaules généré par une machine décide qui a l’air honnête.

La réponse pratique est de traiter Pangram comme un signal, pas comme un tribunal. Les propres termes de On Substack indiquent que les lecteurs peuvent voir quelle part du texte est estimée comme écrite à la main ou avec l’aide de l’IA, et le mot estimée porte une lourde charge. Les plateformes ont une longue tradition : elles lancent des outils de confiance, puis laissent les cas limites devenir des tickets de support pour créateurs. Ajoutons cela au décompte des promesses de plateformes que nous devrions vérifier sur le terrain, plutôt que simplement applaudir au lancement.

Ce que les créateurs devraient faire ensuite

La série Model Behavior de Substack indique qu’elle veut interroger des auteurs, créateurs et penseurs sur leurs prompts, leurs ensembles d’outils et leurs méthodes de travail analogiques, ce qui revient essentiellement à montrer aux créateurs vers où se dirige la nouvelle norme sociale. Si vous publiez du contenu payant, rédigez une courte note sur votre processus avant que les lecteurs ne vous la demandent. Dites si l’IA vous aide pour la rédaction, l’édition, la recherche, ou pas du tout, puis gardez un ton simple et cohérent. L’objectif n’est pas de mettre en scène une pureté ; c’est de réduire l’incertitude au moment précis où quelqu’un décide s’il va payer.

Pour les bâtisseurs de plateformes, la leçon dépasse Substack. La confiance devient une surface produit, pas seulement une page de règles, et les utilisateurs la jugeront à l’aune des contrôles, du contexte et de la gestion des erreurs. À surveiller ensuite : les sponsors demanderont-ils réellement de l’inventaire fait par des humains, les lecteurs utiliseront-ils les analyses avec parcimonie, et Substack maintiendra-t-il les contrôles des créateurs intacts ? Pour l’instant, Substack a transformé le fait-main par des humains d’une impression générale en une fonctionnalité produit, et chaque auteur qui vend un accès devrait décider ce qu’il veut que cette fonctionnalité dise.