KI-Offenlegungsmüdigkeit: UX-Analyse vom 2. August

Ein KI-Hinweis auf einer Anzeige kann helfen. Ein KI-Hinweis auf jeder Anzeige, jeder Empfehlung, jeder Kalenderhilfe und jeder Support-Interaktion kann zur Tapete werden. WIREDs nützlicher Begriff für dieses Problem ist Offenlegungsmüdigkeit: der Moment, in dem ein verpflichtender Hinweis rechtlich existiert, aber im Verhalten nicht mehr wirkt. Der EU AI Act verlangt nicht, dass Nutzer dein Compliance-Banner bewundern. Er verlangt, dass sie verstehen, wann KI im Raum ist.

Was der 2. August tatsächlich verlangt

WIRED berichtet, dass Menschen in der Europäischen Union ab dem 2. August informiert werden müssen, wenn sie mit einem KI-System interagieren oder Inhalte ansehen, die durch die Technologie erzeugt oder verändert wurden. Derselbe WIRED-Bericht nennt die Alltagsliste: Werbung, Musikempfehlungen, Kalenderverwaltungs-Apps und Beschwerde-Hotlines müssen Europäer informieren, wenn sie KI nutzen. Genau dieser Punkt macht die Regel im Betrieb schwierig. Die KI ist nicht auf ein einziges Chatbot-Fenster mit einem ordentlichen Hinweis oben beschränkt.

Einfach gesagt bedeutet das für Produktteams: Sie brauchen zwei Bestandsaufnahmen, nicht nur eine. Erstens: Listet die Stellen auf, an denen ein Nutzer mit einem KI-System interagiert, zum Beispiel mit einem Chatbot oder einer KI-basierten Hotline. Zweitens: Listet die Stellen auf, an denen ein Nutzer KI-generierte oder KI-bearbeitete Inhalte sieht, zum Beispiel eine Deepfake-Anzeige oder einen veränderten Social-Media-Beitrag eines Unternehmens. Wenn derselbe Nutzer in einer Sitzung vier solcher Oberflächen durchläuft, hat das Gesetz das UX-Problem nicht auf magische Weise gelöst. Es hat das Problem nur sichtbar gemacht.

Warum Müdigkeit der Compliance-Fehler ist

The Tech Buzz beschreibt das Risiko klar: Ständige Benachrichtigungen können Nutzer gegenüber den Warnungen abstumpfen lassen, die sie eigentlich schützen sollen. Außerdem wird darauf hingewiesen, dass Anbieter von Unternehmenssoftware vor einer großen Compliance-Herausforderung stehen, weil KI schon lange im Hintergrund Apps, Content-Feeds und Kundenservice-Interaktionen antreibt. Das ist kein Grund, auf Offenlegung zu verzichten. Es ist ein Grund, Offenlegung nicht länger wie dekorativen Standardtext zu behandeln.

WIRED zitiert Frederiek Fernhout, einen Technologieanwalt bei Stibbe, mit den Worten: „Wenn ein Anbieter die Transparenzpflichten wirklich einhält, wird sehr sichtbar werden, wie viel KI genutzt wird.“ Er fügte hinzu: „Besonders im Marketing.“ Lies das als Produktwarnung, nicht nur als juristische Warnung. Wenn jedes Kampagnenmaterial, jedes Support-Skript und jedes Empfehlungsmodul denselben vagen Hinweis erzeugt, lernen Nutzer nur eines: den Hinweis zu ignorieren.

Die Produktarbeit, die im Hinweis steckt

Winzhengs Version des WIRED-Berichts beschreibt die User Journey sehr direkt: Beim Online-Kundenservice sitzt am anderen Ende vielleicht keine echte Person, ein Video einer politischen Rede könnte ein Deepfake sein, und sogar ein Artikel kann mit KI-Unterstützung erstellt worden sein. Das sind unterschiedliche Risiken. Ein Hinweis bei einer Beschwerde-Hotline sagt einer Person, wer oder was ihr Anliegen bearbeitet. Ein Deepfake-Label sagt einem Betrachter, dass er eine Aufnahme nicht wie gewöhnliches Beweismaterial behandeln sollte. Ein allgemeiner Satz, dass KI beteiligt war, erfüllt keine dieser Aufgaben besonders gut.

Das Gesetz verlangt Offenlegung, nicht Modal-Spam. Entwickler sollten Hinweise rund um die Nutzerentscheidung in diesem Moment gestalten: den Chat fortsetzen, den Medien vertrauen, sich auf die Empfehlung verlassen oder einen menschlichen Kanal suchen. Das bedeutet: Ein nützlicher Hinweis steht nah an der KI-Interaktion, ist konkret darin, was die KI tut, und bleibt lange genug sichtbar, um auch nach dem ersten Bildschirm wahrgenommen zu werden. Dein Datenschutzanwalt akzeptiert vielleicht einen konformen Satz. Dein Nutzer bemerkt ihn vielleicht nicht, was ein anderer Fehler mit demselben praktischen Ergebnis ist.

Worauf man achten sollte, nachdem die Labels da sind

WIRED sagt, die Transparenzregeln des EU AI Act sollen Täuschung und Manipulation verringern und Menschen helfen, informierte Entscheidungen zu treffen. Diese Absicht wird in alltäglichen Oberflächen getestet werden, nicht in politischen Reden. Die interessante Frage nach dem 2. August ist, ob Unternehmen messen, ob Nutzer den Hinweis verstehen, oder nur, ob irgendwo im Ablauf ein Label vorhanden war.

Compliance-Screenshots sind für Audits nützlich. Für Menschen, die entscheiden wollen, ob eine Stimme, ein Bild, eine Antwort oder eine Empfehlung Vertrauen verdient, sind sie weniger nützlich. Für Entwickler ist der nächste Arbeitsschritt unspektakulär und notwendig: KI-Berührungspunkte erfassen, die Art des Hinweises einordnen und doppelte Formulierungen entfernen, die Menschen darauf trainieren, nicht mehr zu lesen. Lernende und Nutzer sollten damit rechnen zu entdecken, wie viel Automatisierung längst im digitalen Alltag steckt. Die Regel macht diese Automatisierung schwerer zu verstecken. Ob sie dadurch leichter zu verstehen wird, ist jetzt ein Designproblem. Und genau dort lernen viele Compliance-Programme still und leise Demut.