Analyse du filigrane OpenAI : ChatGPT dans l’UE, API avec option d’activation

Une échéance de conformité arrive rarement sous la forme d’une grande annonce. Le plus souvent, elle apparaît comme un réglage produit activé pour un groupe, désactivé pour un autre, et entouré d’une documentation que les juristes feront semblant de trouver évidente. Selon TechCrunch, OpenAI ajoutera un filigrane invisible au texte généré par ChatGPT et Codex dans l’Union européenne afin de se conformer au règlement européen sur l’IA. Le point important pour les équipes qui construisent des produits est la séparation : les utilisateurs admissibles de ChatGPT et Codex dans l’UE auront ce réglage par défaut, tandis que les développeurs API dans le monde entier disposeront d’un réglage d’activation volontaire pour certains modèles.

La règle arrive comme un réglage produit par défaut, selon TechCrunch

TechCrunch rapporte que les règles de transparence du règlement européen sur l’IA sont entrées en vigueur le 2 août et obligent les entreprises d’IA à marquer les contenus générés par IA d’une manière que d’autres systèmes peuvent identifier. OpenAI a indiqué que le filigrane sera déployé au cours des prochaines semaines auprès des utilisateurs admissibles de ChatGPT et Codex, sur toutes les offres, mais uniquement dans l’UE. Les développeurs qui utilisent l’API d’OpenAI partout dans le monde peuvent l’activer pour certains modèles dès aujourd’hui, et il est désactivé par défaut. OpenAI a également indiqué qu’elle ne faisait pas du filigranage de texte un réglage par défaut mondial au lancement, ce qui est la phrase que votre équipe de mise en œuvre devrait souligner, au lieu de l’écouter en hochant poliment la tête.

@title Déploiement du filigrane d’OpenAI
@source OpenAI will start watermarking ChatGPT's text in the EU
@source Our approach to EU text provenance rules

  August 2 ··· EU rules apply
  October 5 ·· OpenAI post
  October 5 ·· API option starts
  Coming weeks · EU rollout

@caption Le changement de conformité arrive d’abord sous forme de géographie et de réglages par défaut.

Voilà la forme pratique de l’obligation. Pour les utilisateurs ordinaires de ChatGPT et Codex dans l’UE, le marquage se fait à l’intérieur du produit une fois que le déploiement les atteint. Pour les clients de l’API, il n’y a pas de fée magique de la conformité qui active la fonctionnalité dans le monde entier. Si une application sert des utilisateurs de l’UE et s’appuie sur l’API d’OpenAI, la première question de mise en œuvre n’est pas de savoir si le filigranage existe, mais si le développeur l’a activé pour le modèle et le cas d’usage concernés.

La marque est dans la formulation, pas sur la page, selon OpenAI

OpenAI décrit l’effort sur son propre site comme une approche des règles européennes de provenance du texte, avec pour objectif de promouvoir la transparence dans les limites techniques actuelles. TechCrunch rapporte que le filigrane n’est pas un symbole visible. Il fonctionne plutôt en influençant subtilement les choix de mots du modèle, en laissant un motif que les lecteurs ne peuvent pas voir, mais qu’un détecteur peut identifier. Comme le motif se trouve dans les mots eux-mêmes, TechCrunch indique qu’il accompagne le texte lorsqu’il est copié-collé.

OpenAI a également publié un rapport technique sur la méthode, appelée textGrain, selon TechCrunch. Le rapport a été corédigé avec des chercheurs de l’Université de Pennsylvanie et de Yale, et décrit l’utilisation d’une clé secrète pour trier les prédictions du mot suivant lors de la complétion d’une phrase. À travers de nombreuses petites orientations de ce type, le détecteur peut identifier du contenu généré par IA en utilisant seulement le texte et la clé. Ce n’est pas une étiquette de suivi de l’utilisateur : TechCrunch rapporte qu’OpenAI a indiqué que le filigrane n’identifie pas l’utilisateur, et qu’elle n’a constaté aucun changement significatif des performances du modèle lorsque la fonctionnalité est activée.

Ce que la loi exige est plus étroit que le débat public, selon 9to5Mac

9to5Mac présente cette décision comme l’explication par OpenAI de la manière dont elle se conformera aux exigences du règlement européen sur l’IA imposant aux fournisseurs de systèmes d’IA générative de marquer le texte généré par IA de façon à le rendre identifiable. Cela ne signifie pas que chaque phrase générée partout par chaque produit OpenAI porte désormais une marque visible. Cela signifie qu’un fournisseur met en œuvre un mécanisme de marquage identifiable par machine pour la surface réglementée qu’il a choisi de traiter en premier. LinkedIn transformera cela en douze leçons morales sur la conformité avant le déjeuner ; les faits opérationnels sont plus modestes et plus utiles.

La distinction est importante, car le même fournisseur de modèles propose désormais des comportements différents selon la surface produit et la géographie. ChatGPT et Codex dans l’UE sont traités différemment de l’utilisation de l’API ailleurs. Même dans l’utilisation de l’API, le réglage est disponible pour certains modèles et désactivé par défaut, selon TechCrunch. Si vous rédigez des conditions client, des questionnaires d’achat ou des politiques scolaires, n’écrivez pas la phrase paresseuse selon laquelle le texte OpenAI est filigrané. Écrivez quel produit, quelle géographie, quel modèle, et si le réglage est activé.

La liste de vérification des équipes produit concerne surtout les réglages par défaut, selon TechCrunch et OpenAI

Pour les équipes produit, l’exercice immédiat de conformité relève de l’inventaire, pas de la philosophie. Cartographiez les endroits où votre application appelle ChatGPT, Codex ou l’API d’OpenAI, puis séparez les surfaces destinées aux utilisateurs finaux de l’UE de celles qui ne le sont pas. Si vous utilisez l’API, les informations rapportées par TechCrunch signifient que vous ne devez pas supposer que le filigranage est actif, sauf si votre configuration l’indique. Si vous revendez ou intégrez du texte généré, vos contrats devraient préciser qui est responsable de l’activation des fonctionnalités de provenance disponibles et comment ce réglage est vérifié.

Pour les équipes chargées des politiques éducatives et professionnelles, la mise en garde est tout aussi claire. Un détecteur de filigrane peut appuyer des vérifications de provenance, mais la description de TechCrunch n’en fait pas un oracle universel de l’auteur. OpenAI indique que le filigrane n’identifie pas l’utilisateur, et le mécanisme dépend de la détection d’un motif dans le texte. Traitez-le comme un signal parmi d’autres indiquant si un texte provient probablement d’un système de génération marqué, et non comme un substitut à la conception de l’évaluation, aux règles de divulgation ou aux preuves de base.

La prochaine chose à surveiller est de savoir si d’autres fournisseurs suivront le même modèle segmenté ou choisiront des réglages par défaut plus larges. Le règlement européen sur l’IA commence à apparaître non pas comme un interrupteur mondial unique, mais comme une segmentation par surface produit : les outils grand public de l’UE d’un côté, les clients API d’un autre, et le reste du monde en attente d’une décision commerciale. Les équipes qui construisent des produits devraient documenter ces lignes de séparation dès maintenant. Les régulateurs ont tendance à apprécier les lignes de séparation presque autant que j’apprécie les avis d’application de la loi.