KI-Unvermeidlichkeitsfalle: Wong über vorbestimmte AGI

Ich habe eine Schwäche für Büronamen. Nennt man einen Raum „Finanzen“, verhalten sich Menschen auf die eine Weise. Nennt man ihn „Moonshot“, dann scheinen dieselben Stühle, derselbe Bildschirm und derselbe schale Kaffee plötzlich nach größeren Versprechen zu verlangen. Namensgebung ist in der Tech-Welt nie nur Dekoration. Sie ist eine Karte dessen, was ein Unternehmen für bereits unterwegs hält.

Deshalb trifft Matteo Wongs Atlantic-Essay über die Unausweichlichkeit von KI stärker als noch ein weiteres Argument darüber, ob künstliche allgemeine Intelligenz nahe ist. Der interessante Teil ist nicht die Prognose. Es ist die Grammatik. Irgendwo zwischen Produkt-Roadmap, Investorenpräsentation und kulturellem Mythos beginnt eine strategische Entscheidung, sich als Schicksal zu verkleiden.

Der Raum, in dem das Schicksal einen Namen bekam

In The Atlantic beginnt Matteo Wong mit einer Szene aus OpenAIs alter Firmenzentrale, die fast zu passend wirkt, um wahr zu sein. Er schreibt, dass es im zweiten Stock Räume gab, die nach großen Erfindungen benannt waren, darunter „Clock“, „Fire“ und „AGI“, die Abkürzung für artificial general intelligence, also künstliche allgemeine Intelligenz. Wong sagt, er habe das im Frühjahr 2024 gesehen, als er OpenAI-Forschende interviewte, zu einem Zeitpunkt, an dem ChatGPT noch peinliche Rechenfehler machte und die Vorstellung, der Bot könne es mit menschlicher Intelligenz aufnehmen, zweifelhaft wirkte.

Dieser Gegensatz ist die These des Essays im Kleinen. Das Produkt war fehlbar, aber das Gebäude sprach, als sei das Ziel bereits ausgewählt. Wong merkt an, dass der Glaube an AGI grundlegend für die Missionen von Google DeepMind, OpenAI und Anthropic ist, drei der einflussreichsten KI-Unternehmen der Welt. Die subtile Gefahr ist nicht Ehrgeiz. Es ist das Abrutschen von Ehrgeiz in Vorbestimmung.

Die unbequeme Frage lautet, was passiert, wenn der Nordstern eines Unternehmens in der öffentlichen Vorstellung zu einem Naturgesetz wird. Wenn AGI als unausweichlich dargestellt wird, kann jeder Produktfehler vorübergehend wirken, jeder Kompromiss notwendig erscheinen und jede skeptische Frage wie Verleugnung klingen. Entwicklerinnen und Entwickler wissen, dass Roadmaps aus Einschränkungen, Einstellungsplänen, Modellverhalten, Vertriebsvereinbarungen und Ermessensentscheidungen bestehen. Der Rahmen der Unausweichlichkeit lässt diese Entscheidungen wie Wetter wirken.

Unausweichlichkeit ist eine Roadmap mit besserer Beleuchtung

Wongs frühere Atlantic-Berichterstattung über Cluely zeigt dasselbe kulturelle Muster aus einem anderen Blickwinkel. In „The AI Industry Is Radicalizing“ beschreibt er Chungin „Roy“ Lee, der Wong zufolge KI nutzte, um in der Schule und bei Praktikumsinterviews bei Amazon und Meta zu schummeln, von beiden Angebote erhielt und dann das Studium abbrach, um Cluely zu gründen. Wong berichtet, dass Cluely damit wirbt, die Fähigkeit zu bieten, „bei allem zu schummeln“, und dass das Unternehmen eine Finanzierungsrunde über 15 Millionen Dollar abgeschlossen hat, angeführt von Andreessen Horowitz.

Das ist nicht dieselbe Geschichte wie die von OpenAIs Konferenzräumen, aber sie reimt sich darauf. Wong schreibt, dass Lee glaubt, allwissende KI sei unausweichlich und Bots würden bald jede Arbeit automatisieren. Sobald diese Prämisse akzeptiert ist, verändert sich das moralische Vokabular. „Schummeln“ wird weniger zu einem Verstoß gegen heutige Normen als zu einer frühen Übernahme künftiger Normen.

Das ist die praktische Lektion für Gründerinnen, Gründer und Produktverantwortliche. Narrative sitzen nicht höflich neben der Strategie. Sie gewinnen Nutzerinnen und Nutzer, strukturieren Teams, ziehen Kapital an und entscheiden, welche Einwände als ernst gelten. Wenn ein Produkt als Vorschau auf eine unvermeidliche Zukunft präsentiert wird, kann der Markt Geschwindigkeit stärker belohnen als Klarheit. Wenn es als eine Wahl unter vielen möglichen Zukünften präsentiert wird, können Nutzerinnen und Nutzer bessere Fragen zu Passung, Risiko und Wert stellen.

Die Slop-Ära zeigt, warum die Geschichte zählt

The Atlantics „Generative AI’s Slop Era“ fügt der Unausweichlichkeitsfalle eine weitere Ebene hinzu: Die Infrastruktur rund um KI hängt oft von Institutionen ab, die keineswegs unausweichlich sind. Der Beitrag sagt, dass Unternehmen wie OpenAI, Perplexity und Google generative KI-Suchwerkzeuge auf den Markt bringen. Er erwähnt auch Medienpartnerschaften mit Perplexity und anderen KI-Firmen und sagt, The Atlantic habe einen Vertrag mit OpenAI unterzeichnet, der seine Artikel Nutzerinnen und Nutzern von SearchGPT anzeigen könnte.

Dieses Detail ist wichtig, weil KI-Systeme nicht über der Kultur schweben. Sie nehmen sie auf, fassen sie zusammen, formatieren sie neu und konkurrieren manchmal mit den Orten, die sie hervorgebracht haben. Der Atlantic-Beitrag zitiert die Ansicht, dass „die Inhalte von Journalistinnen und Journalisten reich an Fakten und verifiziertem Wissen sind, und genau diese Nutzenfunktion erfüllen sie für eine KI-Antwortmaschine.“ Wenn Wissensarbeit hauptsächlich als Treibstoff für eine vorherbestimmte Maschine gerahmt wird, können die Menschen, die dieses Wissen produzieren, gegenüber dem System, das es verpackt, zweitrangig wirken.

Für Entwicklerinnen und Entwickler wird Ethik hier operativ. Die Frage ist nicht, ob KI-Suche, Assistenten oder Agenten kommen. Viele sind bereits da. Die Frage ist, ob die Beziehungen um sie herum als Partnerschaften, Extraktionen, Experimente oder ausgemachte Ergebnisse gestaltet werden. Die Erzählung von der Unausweichlichkeit kann diese Unterschiede genau dann verbergen, wenn sie am sichtbarsten sein müssen.

Berlins Warnung an Entwicklerinnen und Entwickler

Das Archiv von The Atlantic umkreist dieses Problem schon seit langer Zeit. In seinem Beitrag „Historical Inevitability“ von 1955 beschreibt das Magazin Isaiah Berlins Kritik an Lehren, die behaupten, Geschichte werde von Kräften gemacht, die sich individueller Kontrolle entziehen. Der Beitrag sagt, Berlin habe an der Wurzel solcher Lehren den Wunsch gesehen, der Last menschlicher Verantwortung zu entkommen, während er zugleich einen begrenzten, aber realen Bereich menschlicher Freiheit verteidigte.

Das ist ein nützlicher Rahmen für KI. Nicht weil Gründerinnen und Gründer heimlich philosophische Abhandlungen in Pitch Decks schreiben, sondern weil Unausweichlichkeit tröstlich ist. Sie lässt Führungskräfte sagen, der Markt habe es verlangt, das Modell habe Skalierung gewollt, der Wettbewerb habe ihnen die Hand geführt, die Zukunft sei früh angekommen. Manchmal sind diese Zwänge real. Aber Druck ist nicht Schicksal.

Die gesündesten KI-Unternehmen werden wahrscheinlich diejenigen sein, die zwei Gedanken gleichzeitig halten können. Erstens: Die Technologie bewegt sich schnell genug, um Ehrgeiz zu belohnen. Zweitens: Geschwindigkeit löscht Handlungsmacht nicht aus. Wenn du mit KI baust, lautet die Lektion aus Wongs Essay: Prüfe deine eigene Sprache, bevor der Markt es für dich tut. Beschreibst du eine Fähigkeit oder verkaufst du eine Prophezeiung? Erstellst du eine Roadmap oder bittest du deine Nutzerinnen und Nutzer, ein Schicksal zu akzeptieren?