OpenAI-Wasserzeichen-Analyse: EU-ChatGPT, API-Opt-in

Eine Compliance-Frist kommt selten als große Ankündigung daher. Häufiger erscheint sie als Produkteinstellung, die für eine Gruppe aktiviert ist, für eine andere deaktiviert, und von Dokumentation umgeben ist, bei der Juristen so tun werden, als sei sie offensichtlich. Laut TechCrunch wird OpenAI in der Europäischen Union ein unsichtbares Wasserzeichen zu Text hinzufügen, der von ChatGPT und Codex generiert wird, um dem EU AI Act zu entsprechen. Der wichtige Punkt für Entwicklerinnen und Entwickler ist die Aufteilung: berechtigte ChatGPT- und Codex-Nutzer in der EU erhalten die Standardeinstellung, während API-Entwickler weltweit eine Opt-in-Einstellung für ausgewählte Modelle bekommen.

Die Regel kommt laut TechCrunch als Produktstandard an

TechCrunch berichtet, dass die Transparenzregeln des EU AI Act am 2. August in Kraft getreten sind und KI-Unternehmen verpflichten, KI-generierte Inhalte so zu kennzeichnen, dass andere Systeme sie erkennen können. OpenAI sagte, das Wasserzeichen werde in den kommenden Wochen für berechtigte ChatGPT- und Codex-Nutzer in allen Tarifen eingeführt, aber nur in der EU. Entwickler, die OpenAIs API irgendwo auf der Welt nutzen, können es ab heute für ausgewählte Modelle aktivieren, und es ist standardmäßig deaktiviert. OpenAI sagte außerdem, dass Text-Watermarking zum Start nicht weltweit zur Standardeinstellung gemacht wird; das ist der Satz, den euer Implementierungsteam unterstreichen sollte, statt höflich darüber hinwegzunicken.

@title Einführung des OpenAI-Wasserzeichens
@source OpenAI will start watermarking ChatGPT's text in the EU
@source Our approach to EU text provenance rules

  August 2 ··· EU rules apply
  October 5 ·· OpenAI post
  October 5 ·· API option starts
  Coming weeks · EU rollout

@caption Die Compliance-Änderung erscheint zuerst als Geografie und Standardeinstellungen.

Das ist die praktische Form der Verpflichtung. Für normale ChatGPT- und Codex-Nutzer in der EU erfolgt die Kennzeichnung innerhalb des Produkts, sobald die Einführung sie erreicht. Für API-Kunden gibt es keine magische Compliance-Fee, die die Funktion weltweit einschaltet. Wenn eine App EU-Nutzer bedient und sich auf OpenAIs API stützt, lautet die erste Implementierungsfrage nicht, ob Watermarking existiert, sondern ob der Entwickler es für das relevante Modell und den relevanten Anwendungsfall aktiviert hat.

Die Markierung steckt laut OpenAI in der Formulierung, nicht auf der Seite

OpenAI beschreibt den Ansatz auf seiner eigenen Website als Vorgehen zu den EU-Regeln zur Textherkunft, mit dem Ziel, innerhalb der aktuellen technischen Grenzen Transparenz zu fördern. TechCrunch berichtet, dass das Wasserzeichen kein sichtbares Symbol ist. Stattdessen funktioniert es, indem es die Wortwahl des Modells subtil beeinflusst und ein Muster hinterlässt, das Leser nicht sehen können, ein Detektor aber erkennen kann. Weil das Muster in den Wörtern selbst steckt, reist es laut TechCrunch mit dem Text mit, wenn er kopiert und eingefügt wird.

OpenAI veröffentlichte laut TechCrunch außerdem einen technischen Bericht zu der Methode namens textGrain. Der Bericht wurde gemeinsam mit Forschern der University of Pennsylvania und Yale verfasst und beschreibt, wie ein geheimer Schlüssel verwendet wird, um Vorhersagen für das nächste Wort beim Vervollständigen eines Satzes zu sortieren. Über viele solcher kleinen Anstöße hinweg kann der Detektor KI-generierte Inhalte allein anhand des Textes und des Schlüssels erkennen. Das ist kein Nutzer-Tracking-Label: TechCrunch berichtet, dass OpenAI sagte, das Wasserzeichen identifiziere den Nutzer nicht und man habe bei aktivierter Funktion keine bedeutsame Veränderung der Modellleistung gesehen.

Was das Gesetz verlangt, ist laut 9to5Mac enger als die Debatte

9to5Mac beschreibt den Schritt so, dass OpenAI erklärt, wie es die Anforderungen des EU AI Act an Anbieter generativer KI-Systeme erfüllen wird, KI-generierten Text so zu kennzeichnen, dass er identifizierbar wird. Das bedeutet nicht, dass nun jeder überall von jedem OpenAI-Produkt generierte Satz sichtbar gebrandet ist. Es bedeutet, dass ein Anbieter einen maschinenidentifizierbaren Kennzeichnungsmechanismus für die regulierte Oberfläche umsetzt, die er zuerst adressieren will. LinkedIn wird daraus bis zum Mittag zwölf Compliance-Lektionen machen; die operativen Fakten sind kleiner und nützlicher.

Die Unterscheidung ist wichtig, weil derselbe Modellanbieter nun je nach Produktoberfläche und Geografie unterschiedliches Verhalten anbietet. ChatGPT und Codex in der EU werden anders behandelt als API-Nutzung anderswo. Selbst innerhalb der API-Nutzung ist die Einstellung laut TechCrunch für ausgewählte Modelle verfügbar und standardmäßig deaktiviert. Wenn ihr Kundenbedingungen, Beschaffungsfragebögen oder Schulrichtlinien entwerft, schreibt nicht den bequemen Satz, dass OpenAI-Text mit einem Wasserzeichen versehen ist. Schreibt, welches Produkt, welche Geografie, welches Modell und ob die Einstellung aktiviert ist.

Die Checkliste für Entwickler dreht sich laut TechCrunch und OpenAI vor allem um Standardeinstellungen

Für Produktteams ist die unmittelbare Compliance-Aufgabe Bestandsaufnahme, nicht Philosophie. Kartiert, wo eure Anwendung ChatGPT, Codex oder die OpenAI-API aufruft, und trennt dann EU-Endnutzeroberflächen von Nicht-EU-Oberflächen. Wenn ihr die API nutzt, bedeutet die Berichterstattung von TechCrunch, dass ihr nicht annehmen solltet, Watermarking sei aktiv, sofern eure Konfiguration das nicht sagt. Wenn ihr generierten Text weiterverkauft oder einbettet, sollten eure Verträge festlegen, wer dafür verantwortlich ist, verfügbare Herkunftsfunktionen zu aktivieren, und wie diese Einstellung überprüft wird.

Für Lehrkräfte sowie Teams für Arbeitsplatzrichtlinien ist der Vorbehalt ebenso klar. Ein Wasserzeichen-Detektor kann Herkunftsprüfungen unterstützen, aber die Beschreibung von TechCrunch macht ihn nicht zu einem universellen Orakel für Urheberschaft. OpenAI sagt, das Wasserzeichen identifiziere den Nutzer nicht, und der Mechanismus hängt davon ab, ein Muster im Text zu erkennen. Behandelt es als ein Signal dafür, ob Text wahrscheinlich aus einem gekennzeichneten Generierungssystem stammt, nicht als Ersatz für Aufgabendesign, Offenlegungsregeln oder grundlegende Belege.

Als Nächstes ist zu beobachten, ob andere Anbieter demselben segmentierten Muster folgen oder breitere Standardeinstellungen wählen. Der EU AI Act zeigt sich allmählich nicht als ein globaler Schalter, sondern als Segmentierung nach Produktoberfläche: EU-Verbrauchertools auf die eine Art, API-Kunden auf eine andere, und der Rest der Welt wartet auf eine Geschäftsentscheidung. Entwickler sollten diese Nahtstellen jetzt dokumentieren. Regulierungsbehörden mögen Nahtstellen meist fast so sehr, wie ich Durchsetzungsmitteilungen mag.