Falsche Erinnerungen von KI: Pattie Maes Provenienzanalyse

Deine Kamerarolle war früher ein Beweisstück. Jetzt ist sie auch eine Schnittstelle, und das ist eine deutlich weniger beruhigende Berufsbezeichnung. Die unangenehme Lektion aus der fotobezogenen Gedächtnisforschung der MIT-Wissenschaftlerin Pattie Maes ist nicht einfach, dass KI gefälschte Bilder erstellen kann; das haben wir unter „ja, offensichtlich“ abgelegt, direkt neben „Drucker sind verflucht“. Sondern dass generierte oder veränderte Medien Teil dessen werden können, was Nutzerinnen und Nutzer später zu erinnern glauben.

Damit ist das weniger eine gruselige Lagerfeuergeschichte und mehr ein Produktdesignproblem mit Biss. Eine schlechte Autovervollständigung nervt dich, aber ein plausibles generiertes Foto oder eine Zusammenfassung kann sich in die persönliche Erinnerung schleichen und dabei ein seriöses kleines Sakko tragen. Für Entwicklerinnen und Entwickler von Fotoeditoren, Zusammenfassungswerkzeugen, Produktivitätstools und Gedächtnisassistenten ist Herkunftsnachweis kein dekoratives Compliance-Konfetti. Er ist die Rohrleitung der Benutzeroberfläche.

Das Laborergebnis, das in der Kamerarolle steckt

Laut dem arXiv-Paper Synthetic Human Memories werden KI-Bearbeitungstools zunehmend in Smartphones integriert, wo Nutzerinnen und Nutzer Fotos verändern oder sie in realistische Videos animieren können. Das Paper definiert falsche Erinnerungen als Erinnerungen an Ereignisse, die nicht stattgefunden haben oder von der Realität abwichen. In einer vorregistrierten Studie teilten die Forschenden 200 Teilnehmende in vier Bedingungen mit jeweils 50 Personen ein, nachdem die Teilnehmenden Originalbilder angesehen und eine Ablenkungsaufgabe erledigt hatten. Die späteren Reize waren unbearbeitete Bilder, KI-bearbeitete Bilder, KI-generierte Videos oder KI-generierte Videos von KI-bearbeiteten Bildern.

@title Wie die Studie Erinnerung testete
@source Synthetic Human Memories

  Original images
       │
       ▼
  Filler task
       │
       ▼
  Four stimuli
       ├─ Unedited images
       ├─ AI edited images
       ├─ AI generated videos
       └─ AI generated videos of AI edited images

@caption Die Teilnehmenden wechselten von Originalbildern zu einem von vier späteren Reiztypen.

Dasselbe arXiv-Paper berichtet, dass KI-bearbeitete visuelle Inhalte falsche Erinnerungen deutlich erhöhten. Der stärkste Effekt trat bei KI-generierten Videos von KI-bearbeiteten Bildern auf: Sie erzeugten im Vergleich zur Kontrollbedingung 2,05-mal so viele falsche Erinnerungen. Auch das Vertrauen in falsche Erinnerungen war in dieser Bedingung am höchsten, nämlich 1,19-mal so hoch wie in der Kontrollbedingung. Übersetzt für Produktteams: Bewegung plus Realismus plus persönlicher Kontext ist nicht nur ein Medienformat, sondern ein Würzpäckchen fürs Gedächtnis.

Auch Zusammenfassungen können zu Gedächtnisschnittstellen werden

Ein weiteres arXiv-Paper, AI-Enabled Human Memory Manipulation:Misleading AI-Generated Summaries Distort Human Memory, erweitert die Sorge über Bilder hinaus. Das Paper sagt, dass KI-generierte Zusammenfassungen und Berichte zunehmend in Bereichen mit hohen Risiken eingesetzt werden, darunter Polizeiarbeit, obwohl KI irreführende oder ungenaue Informationen erzeugen kann. Es untersucht, ob Fehler in KI-Zusammenfassungen das menschliche Gedächtnis verzerren können, was genau die Art von Satz ist, bei dem eine Produktmanagerin oder ein Produktmanager langsam den Launch-Cupcake ablegen sollte.

Das Paper zu Zusammenfassungen beschreibt zwei Ansätze: Zuerst wurden Ausgaben beliebter großer Sprachmodelle analysiert, die Videos zusammenfassten, anschließend wurde ein Experiment mit menschlichen Teilnehmenden durchgeführt. In diesem Experiment sahen die Teilnehmenden ein Video eines Unfalls zwischen einem Auto und einer Fußgängerin oder einem Fußgänger, lasen später eine KI-generierte Zusammenfassung, die entweder irreführende oder korrekte Informationen enthielt, und machten dann einen Wiedererkennungstest zum Gedächtnis. Die zentrale Designimplikation ist nicht, dass Zusammenfassungen schlecht sind. Sondern dass Zusammenfassungen oft als neutrale Kompression behandelt werden, obwohl sie eher wie Anmerkungen wirken können, die in nassen Zement geschrieben wurden.

Langsames Design ist ein nützliches Gegengewicht

Das arXiv-Paper Memory Printer bietet eine konstruktivere Designperspektive. Es argumentiert, dass bestehende webbasierte Werkzeuge zur generativen Rekonstruktion von Erinnerungen das Gefühl von Handlungsfähigkeit der Nutzerinnen und Nutzer durch wenig einbindende und unvorhersehbare Interaktionen untergraben können. Das Projekt kombiniert eine Siebdruckmetapher mit Text-zu-Bild-Generierung und nutzt schichtweise Rekonstruktion, einen physischen Holzrakel und integriertes Drucken, um den Generierungsprozess verständlicher zu machen.

Das ist wichtig, denn die sicherste UX ist hier nicht unbedingt die mit dem größten Warnhinweis, der in fluoreszierender Panikschrift „DAS WAR KI“ schreit. Es kann die sein, die Nutzerinnen und Nutzer Phasen sehen, Versionen vergleichen, Ursprünge prüfen und verstehen lässt, was erschlossen statt aufgezeichnet wurde. Prüfprotokolle, sichtbare Bearbeitungshistorien, Inhaltsnachweise, rückgängig machbare Änderungen und klare Kennzeichnungen sind keine bürokratische Garnierung. So vermeiden Gedächtniswerkzeuge, sich als Realität zu verkleiden.

Worauf Entwicklerinnen und Entwickler als Nächstes achten sollten

Das Paper Synthetic Human Memories weist auch auf mögliche HCI-Anwendungen hin, darunter therapeutisches Umdeuten von Erinnerungen, und markiert zugleich ethische, rechtliche, politische und gesellschaftliche Herausforderungen. Dieses Gleichgewicht ist wichtig: Generierte Gedächtniswerkzeuge können nützlich, kreativ und sogar emotional bedeutsam sein, aber nur, wenn Nutzerinnen und Nutzer wissen, ob sie gerade auf eine Aufzeichnung oder auf eine Rekonstruktion schauen. Die Produktfrage lautet nicht, ob KI persönliche Archive berühren sollte. Sie lautet, ob die Schnittstelle Nutzerinnen und Nutzern genug Kontext gibt, um Urheberschaft, Belege und Vorstellungskraft in getrennten Schubladen aufzubewahren.

Für alle, die mit generativer KI bauen, ist die kurzfristige Erkenntnis angenehm unglamourös: Belege hinzufügen. Speichere Quellmedien, markiere generierte Bereiche, bewahre Eingaben für Zusammenfassungen auf, zeige, wo passend, Vertrauen und Bearbeitungen an, und mache es einfach, das Original wiederherzustellen. Die sicherste Gedächtnisfunktion ist vielleicht die, die zugibt, dass sie einen Beleg hat.