Analyse der Finanzierung zur KI-Verifizierung nach California SB 813

Der vielleicht seltsamste Job in der KI könnte bald darin bestehen, die Hausaufgaben zur Modellsicherheit eines anderen zu lesen und höflich zu sagen: Beweis es. Kaliforniens SB 813 dreht sich nicht um eine weitere Bestenliste, auf der Modell A Modell B um eine verdächtige Dezimalstelle schlägt. Es geht darum, wer Sicherheitsbehauptungen zu Frontier-KI überprüfen darf, mit welcher Befugnis und mit welchen Anreizen. Dieser letzte Punkt ist wichtig, denn ein Audit, das wie ein kleines Gastgeschenk finanziert wird, ist nicht ganz dasselbe wie ein Audit, das wie öffentliche Infrastruktur finanziert wird. Fathom, die gemeinnützige Organisation, die SB 813 unterstützt hat, sagt, dass die kalifornische Legislative den von Senator Jerry McNerney eingebrachten Gesetzentwurf mit überwältigender Mehrheit verabschiedet hat. Fathom beschreibt die Maßnahme als einen Schritt hin zum ersten bundesstaatlichen Rahmen des Landes für Independent Verification Organizations, kurz IVOs, die KI-Sicherheitsbehauptungen testen, Risiken messen und öffentliches Vertrauen aufbauen sollen. Übersetzt aus dem politischen Dialekt: Der Staat versucht, Modellevaluation weniger wie eine selbst benotete Hausarbeit zum Mitnehmen und mehr wie ein Inspektionssystem mit erwachsener Aufsicht zu machen. KI-Labore mögen den Papierkram hassen, aber Papierkram ist die Art, wie Gesellschaften sehr großen Maschinen sagen, dass sie mit gefühlsbasiertem Deployment aufhören sollen.

SB 813 verschiebt KI-Audits von Bauchgefühl zu Institutionen

Laut Fathom ist der Kernmechanismus in SB 813 das IVO-Modell: externe Expertinnen und Experten, die KI-Sicherheitsbehauptungen und Risiken bewerten können. ICT Solutions and Education berichtet, dass kalifornische Gesetzgeber SB 813 verabschiedet haben, um einen Rahmen für unabhängige Organisationen zu schaffen, die KI-Sicherheit, Risiken und Schutzmaßnahmen bewerten. Diese Formulierung ist wichtig, weil sie über Benchmark-Theater hinausweist. Eine glaubwürdige Prüfstelle fragt nicht nur, ob ein Modell einen Testsatz mit Bestnoten schafft; sie fragt, ob die Sicherheitsgeschichte des Entwicklers der unabhängigen Prüfung standhält. CalMatters Digital Democracy weist darauf hin, dass das bestehende Gesetz, der Transparency in Frontier Artificial Intelligence Act, einen großen Frontier-Entwickler bereits verpflichtet, für seine Frontier-Modelle einen Frontier-KI-Rahmen zu schreiben, umzusetzen und klar zu veröffentlichen. SB 813 passt logisch danach: Wenn Entwickler Rahmenwerke veröffentlichen müssen, braucht jemand außerhalb des Entwicklers eine Möglichkeit zu prüfen, ob diese Rahmenwerke etwas bedeuten. Andernfalls kann ein Sicherheitsrahmen zum KI-Äquivalent einer im Januar gekauften Fitnessstudio-Mitgliedschaft werden, die im Februar ignoriert wird.

GovBuddy zeigt, dass die politischen Leitungen jetzt in Bewegung kommen

GovBuddy führt SB 813 in der regulären Sitzungsperiode Kaliforniens 2025 bis 2026 auf und bezeichnet ihn als Senatsgesetzentwurf mit dem Status „von beiden Kammern verabschiedet“. Das lässt die technischen Fragen nicht verschwinden. Es macht sie operativ. Sobald Verifikation zu einer staatlich anerkannten Funktion wird, brauchen Labore, Evaluatoren und öffentliche Stellen langweilige, aber wesentliche Antworten zu Umfang, Zugang, Dokumentation und dem Umgang mit Interessenkonflikten. Hier trifft der technische Reifen auf die regulatorische Straße und beschwert sich dann, dass die Straße nicht im Anforderungsdokument stand. Ein Modellevaluator braucht möglicherweise API-Zugang, System Cards, Richtliniendokumentation, Bedrohungsmodelle, Evaluations-Harnesses und genug Rechenbudget, um aussagekräftige Tests durchzuführen. Wenn sich der Evaluator die Tests nicht leisten kann, wird Unabhängigkeit dekorativ. Wenn der Entwickler den Zugang zu stark kontrolliert, wird Unabhängigkeit zum Dinner-Theater mit JSON-Ausgaben.

Das Geldproblem ist keine Fußnote

ICT Solutions and Education beschreibt IVOs als qualifizierte Bewertungen durch Dritte von KI-Modellen und -Systemen, einschließlich Sicherheit, Risiko und Schutzmaßnahmen. Das klingt sauber, aber jeder, der ernsthafte Modellevaluationen durchgeführt hat, weiß, dass der Zähler schnell zu laufen beginnt. Long-Context-Prüfungen, agentische Aufgabensuiten, adversariales Testen, wiederholtes Sampling, Evaluation von Tool-Nutzung und Regressionsprüfungen sind nicht kostenlos. Die Rechnung ist nicht die ganze Geschichte, aber so zu tun, als sei sie irrelevant, ist der Weg zu Audits, die im Grunde PDFs in Laborkitteln sind. Die politische Lektion ist einfach: Unabhängigkeit von Prüfern braucht ein Finanzierungsmodell, nicht nur ein Leitbild. Wenn Labore direkt zahlen, sollten Leser fragen, wie Interessenkonflikte gemanagt werden. Wenn der Staat zahlt oder einen Markt von Evaluatoren zertifiziert, sollten Leser fragen, wie Qualität und Zugang aufrechterhalten werden. Wenn niemand genug zahlt, bekommt das Ökosystem symbolische Tests, was ungefähr so ist, als würde man einen Fallschirm prüfen, indem man die Nähte lobt.

Worauf sich Entwickler als Nächstes vorbereiten sollten

Für KI-Entwickler lautet die praktische Konsequenz nicht Panik, sondern Hygiene. Fathom sagt, SB 813 sei darauf ausgelegt, Sicherheitsbehauptungen zu testen und Risiken zu messen, also sollten Teams diese Behauptungen testbar machen, bevor jemand anders nach Belegen fragt. Das bedeutet versionierte Modelldokumentation, Evaluationsprotokolle, Verfahren zur Reaktion auf Vorfälle, klare Veröffentlichungskriterien und eine Aufzeichnung dessen, was sich zwischen Modellversionen geändert hat. Ja, das ist weniger glamourös als eine Ehrenrunde nach einem Benchmark-Sieg, aber Zahnseide ist es auch, und Zahnärzte bleiben ungeschlagen. Für Produkt- und Sicherheitsteams bedeutet der entstehende Markt für unabhängige Verifikation, dass Release-Bereitschaft allmählich mehr wie Compliance plus Engineering-Review aussehen könnte. Die besten Teams werden dies als Feedback-Infrastruktur behandeln, nicht bloß als Erlaubnisschein. Achten Sie darauf, wie Kalifornien qualifizierte Evaluatoren definiert, wie Zugangsbedingungen strukturiert werden und ob Finanzierungsmodelle echte Unabhängigkeit unterstützen. Die Audit-Ökonomie kommt, und sie bringt Belege mit.