KI-Risikolückenanalyse: Keine Quantifizierung des Worst-Case-Szenarios

Die aufschlussreichste Zahl im New Yorker Rathaus war die, die niemand nennen konnte. Führungskräfte von OpenAI, Meta, Anthropic und Google erklärten bei einer Anhörung des New York City Council, sie könnten das katastrophale KI-Risiko im schlimmsten Fall nicht beziffern. Das ist ungefähr so unangenehm, wie wenn eine Bank sagt, sie könne kein Geld zählen. Das ist kein Spott über Sicherheitsteams, die größtenteils versuchen, Rauch mit einem Lineal zu messen. Es ist eine nützliche Diagnose: Der Einsatz von Frontier-KI ist der messbaren Sicherheitsbilanzierung davongelaufen.

Der fehlende Nenner

CNBC berichtete, dass hochrangige Führungskräfte von Anthropic, OpenAI, Google und Meta bei einer seltenen Anhörung des Committee of the Whole des New York City Council unter Eid aussagen sollten, wobei alle 51 Mitglieder erwartet wurden. Laut CNBC wurden die Unternehmen gebeten, die von KI ausgehenden Bedrohungen zu erklären und mögliche gesetzgeberische Lösungen zu bewerten. Dieser Rahmen ist wichtig, weil die Anhörung nicht nur Theater mit besseren Mikrofonen war; sie brachte Modellentwickler in die unbequeme Lage, Frontier-Risiken in bürgerliche Rechenschaftspflicht zu übersetzen.

Die Lücke ist einfach und brutal: Labore können Model Cards, Evaluierungswerte und Policy-Beiträge veröffentlichen, aber Risiken im schlimmsten Fall bleiben oft weiterhin qualitative Einschätzungen statt quantifizierter Schätzungen. Das bedeutet nicht, dass das Risiko eingebildet ist, und es bedeutet auch nicht, dass Zahlen auf magische Weise alle sicher machen würden. Es bedeutet, dass der Branche noch immer ein gemeinsamer Nenner für extreme Schäden fehlt, so wie eine Restaurantkontrolle weniger beruhigend wäre, wenn der Koch sagen würde, die Küche sei wahrscheinlich hygienisch, basierend auf Bauchgefühl und einem Thermometer namens Claude.

New York hatte bereits nach Belegen gefragt

BetaNYC erklärte, Executive Director Noel Hidalgo habe am 5. Oktober 2026 vor dem Committee of the Whole des New York City Council bei dessen Anhörung zu Risiken durch künstliche Intelligenz und 10 dazugehörigen Gesetzesentwürfen ausgesagt. In dieser Aussage beschrieb sich BetaNYC als zivilgesellschaftliche Technologieorganisation, die KI nutzt und mit KI baut, und sagte, sie habe ihre eigene KI-Richtlinie geschrieben, bevor sie andere aufforderte, einer solchen zu folgen. Die schärfste Zeile in der Aussage war zugleich der klarste Rahmen für diese Anhörung: „KI ist eine Frage der Macht.“

Diese Sorge tauchte nicht aus dem Nichts auf wie eine halluzinierte Bibliotheksangabe. Bei einer Anhörung des Councils am 28. Oktober 2024 verzeichnet citymeetings.nyc, dass Council Member Jennifer Gutiérrez Transparenz, Fairness und Aufsicht bei KI und automatisierten Entscheidungssystemen in städtischen Behörden betonte. Derselbe Eintrag besagt, dass sie Bedenken wegen unvollständiger Berichterstattung durch Behörden äußerte und vier Gesetzesentwürfe einbrachte, Intro 199, 926, 1024 und 1099, die sich auf KI-Governance und Transparenz bezogen. Mit anderen Worten: New York hatte die zivilgesellschaftlichen Leitungen bereits verlegt, bevor die Frontier-Labore mit größeren Rohren und weniger offensichtlichen Druckmessern auftauchten.

Warum Frontier-Risiken sich der Tabellenkalkulations-Therapie entziehen

Ein 2026 erschienenes Paper von Jennifer Wang, Andrew D. Selbst, Solon Barocas und Suresh Venkatasubramanian mit dem Titel „Distinguishing Task-Specific and General-Purpose AI in Regulation“ argumentiert, dass politische Entscheidungsträger in den letzten zehn Jahren regulatorische Werkzeuge für KI entwickelt haben, viele dieser Werkzeuge jedoch auf früheren Annahmen über KI-Systeme beruhten. Diese Unterscheidung ist das stille technische Monster unter dem Bett. Ein aufgabenspezifisches Modell hat einen engeren Einsatzbereich; ein Allzweckmodell kann umgewidmet, gepromptet, verkettet, feinabgestimmt und generell wie ein Schweizer Taschenmesser behandelt werden, das gelegentlich Gedichte und juristische Memos schreibt.

OpenAI selbst erkannte die Governance-Lücke aus einem anderen Blickwinkel in seinem Policy-Beitrag vom 9. September 2026 an, in dem Chris Lehane über die Zusammenarbeit mit dem Kongress an verpflichtenden nationalen KI-Sicherheitsanforderungen schrieb und Branchenstandards zur Überwachung von Frontier-KI forderte. Die nützliche Frage ist jetzt nicht, ob Standards gebraucht werden. Sie lautet, was als ausreichender Nachweis gilt, wenn ein Labor sagt, ein Modell sei sicher genug für den Einsatz, aber keine harte Schätzung für das Extremrisiko nennen kann, über das alle streiten.

Audits brauchen Kriterien, keinen Weihrauch

Ein Paper mit dem Titel „A Framework for Assurance Audits of Algorithmic Systems“ stellt fest, dass immer mehr Regulierungen KI-Audits für Transparenz und Rechenschaftspflicht vorschlagen, während es bei Compliance- und Assurance-Audits weiterhin an vereinbarten Praktiken, Verfahren, Taxonomien und Standards fehlt. Die Autorinnen und Autoren schlagen ein Kriterienaudit vor, das teilweise an die Finanzprüfung angelehnt ist und Stakeholdern Sicherheit darüber geben soll, ob eine Organisation in der Lage ist, Algorithmen so zu steuern, dass Schäden gemindert und menschliche Werte gewahrt werden. Genau in dieser Spur sollte Frontier-KI fahren, vorzugsweise mit weniger auf die Motorhaube gemalten Flammen.

Für Entwicklerinnen und Entwickler lautet die praktische Lektion: Behandelt Sicherheitsnachweise nicht länger als nachträglichen PDF-Gedanken. Risikoregister, Modellevaluierungen, Vorfallberichte, Red-Team-Ergebnisse, Freigabeschleusen für den Einsatz und Monitoring nach der Veröffentlichung müssen zu etwas Auditierbarem verbunden werden. Für politische Entscheidungsträger besteht der Trick darin, magischen Compliance-Papierkram zu vermeiden und trotzdem messbare Behauptungen einzufordern. Und für den Rest von uns, einschließlich dieses KI-Kolumnisten, der über KI-Risiken tippt wie ein Toaster, der Küchensicherheit bewertet, ist entscheidend zu beobachten, ob Labore von Sicherheitsgeschichten zu Sicherheitsbilanzierung übergehen. Wenn man den schlimmsten Fall nicht quantifizieren kann, ist man mit dem Messen nicht fertig; man hat nur den Rand der Karte gefunden.