KI-Cyber-Versicherungsschutz: Analyse von Governance-Nachweisen

Das neue Warnsignal ist keine Rede einer Aufsichtsbehörde. Es ist Policenwortlaut, der Teil des Vertrags, den niemand liest, bis die Schadenakte geöffnet ist und es im Raum still wird. KI-Risiken wandern vom Material für Konferenzpodien in die nüchterne Maschinerie von Underwriting, Ausschlüssen, Fragebögen und Nachweisen. Genau dort sollten Produkt- und Sicherheitsteams aufmerksam werden, denn Versicherer fragen selten nach Dokumenten, die sie nicht verwenden wollen.

Worum es bei ausdrücklicher Deckung wirklich geht

Hunton Andrews Kurth schreibt in seiner Law360-Analyse, dass Versicherer auf KI-Risiken auf zwei entgegengesetzte Arten reagieren: KI-spezifische Ausschlüsse und ausdrückliche KI-spezifische Deckungen. Dieselbe Analyse stellt fest, dass 72 % der S&P-500-Unternehmen KI und damit verbundene Risiken in ihren jährlichen Wertpapierberichten erörtert haben. Das ist ein nützlicher Hinweis darauf, wohin Vorstände, Makler und Schadensteams schauen.

Stille Deckung ist das alte Problem: Eine Cyber-, Berufshaftpflicht-, D&O- oder Produkthaftpflichtpolice könnte greifen, ohne KI ausdrücklich zu nennen. Ausdrückliche Deckung ist die klarere Variante, bei der die Police das Risiko benennt und den Versicherten dann auffordert, nachzuweisen, was tatsächlich betrieben wird.

Das arXiv-Paper Insurance of Agentic AI erklärt, warum die Fragen genauer werden. Es beschreibt agentische KI-Systeme als Systeme, die über die reine Informationsgenerierung hinausgehen und autonome Planung, Tool-Aufrufe, Entscheidungsausführung sowie dauerhafte Veränderungen digitaler oder physischer Umgebungen umfassen. Das Paper nennt Risikopfade wie Halluzinationen, Prompt-Injection-Angriffe, autonome Entscheidungsfehler, Model Drift, Abhängigkeitsausfälle und cyber-physische Schäden. Übersetzt heißt das: Der Underwriting-Akte reicht es nicht mehr, zu sagen, ein Anbieter habe eine KI-Funktion.

Wer in die Versicherungsakte hineingezogen wird

Insurance of Agentic AI beschreibt agentische Systeme als Kontinuum von Autonomie und delegierter Befugnis. Das ist ein nützlicherer Test als die Frage, ob ein Produkt modisch genug ist, um KI genannt zu werden. Wenn ein System nur Text entwirft, den ein Mensch prüft, sieht die Nachweispflicht anders aus als bei einem System, das Tools aufruft, Datensätze ändert, Empfehlungen in regulierten Workflows ausspricht oder nachgelagerte Transaktionen auslöst.

Sicherheitsteams sollten mit Fragen zu Prompt Injection, Zugriffskontrolle, Protokollierung, Monitoring und Incident Response rechnen. Produktteams sollten mit Fragen dazu rechnen, wo das Modell im Workflow sitzt und wer es überstimmen kann.

Der Punkt von Hunton Andrews Kurth zu Ausschlüssen ist hier wichtig, denn ein Ausschluss ist kein philosophischer Einwand gegen KI. Er ist Vertragssprache, die einschränken kann, was nach einem Schaden passiert. Wenn ein Unternehmen nicht zwischen kundenorientierten Modellen, internen Copilots, in Anbieterprodukte eingebetteten Modellen und Sicherheitsautomatisierung unterscheiden kann, wird es schwer erklären können, welches Risiko tatsächlich versichert war. Das ist die glamouröse Welt der Compliance: Dinge korrekt benennen, bevor ein Schadenregulierer es für Sie tut.

Was vor der Verlängerung dokumentiert werden sollte

Zurich Insurance Group und Microsoft unterteilen in ihrem Paper zu künstlicher Intelligenz und algorithmischer Haftung algorithmische Risiken in die Phase der Modelleingaben, die Phase von Modelldesign und -entwicklung sowie die Phase von Modellbetrieb und -ausgaben. Das ist eine praktische Struktur für eine KI-Nachweisakte für Versicherungen. Führen Sie für jedes System ein Asset-Inventar, die Datenquellen oder Eingaben, auf die es sich stützt, den Entwicklungs- oder Konfigurationsverantwortlichen, den Betriebskontext und die Ausgaben, die Nutzer, Kunden, Beschäftigte oder Vertragspartner beeinflussen können. Wenn das wie ein Register klingt, dann deshalb, weil Register entstehen, sobald Risiko aufhört, abstrakt zu sein.

Das arXiv-Paper schlägt außerdem vor, Expositionsbewertung, Szenarioanalyse, Abhängigkeitsmapping und Auswirkungen auf das Produktdesign für Versicherungen zu betrachten. In einfachem Deutsch: Schreiben Sie auf, was schiefgehen könnte, von welchen Anbietern oder internen Diensten das System abhängt, wie ein Ausfall aussehen würde und wer die Befugnis hat, das System zu pausieren oder zurückzusetzen. Incident-Szenarien sollten Prompt Injection, fehlerhafte autonome Aktionen, Datenabfluss, Model Drift und Ausfälle von Anbietern enthalten, wenn diese zum System passen. Die nützliche Version ist kein Poster über verantwortungsvolle KI, sondern eine Akte, die Sicherheit, Recht, Produkt und Einkauf alle wiedererkennen können.

Karten von Anbieterabhängigkeiten verdienen besondere Aufmerksamkeit. Das Paper von Zurich und Microsoft weist auf die Rolle externer Code-Repositories und Daten beim Management algorithmischer Haftungsrisiken hin. Dieselbe Logik gilt für Modellanbieter, Orchestrierungstools, Retrieval-Speicher, Monitoring-Dienste und Anbieter menschlicher Prüfung. Ihre Vertragsakte sollte Grenzen der Datennutzung, Sicherheitsverpflichtungen, Pflichten zur Meldung von Vorfällen, Audit- oder Assurance-Rechte, soweit verfügbar, sowie Grenzen für Unterauftragnehmer zeigen. Wenn Ihr Anbieter­vertrag weniger über KI sagt als Ihre Verkaufspräsentation, könnte Ihr Versicherer das bemerken. Juristen haben dafür eine Formulierung. Ich erspare sie Ihnen.

Wo Regulierung und Underwriting sich überschneiden

Der MIT-Press-Artikel zu Kredit-Underwriting und Versicherungen unter dem EU AI Act sagt, dass Kreditgeber und Versicherer externe Kredit-Scores, proprietäre Datenquellen, individuelle Scoring-Modelle und geschäftsspezifische Regeln nutzen, um Kreditnehmerrisiken zu bewerten, und dass der EU AI Act für diese Aktivitäten Fragen der Klassifizierung und Compliance aufwirft. Der Erklärartikel von Mason Hayes and Curran zu den Risikokategorien des EU AI Act behandelt das Gesetz ebenfalls als Rahmenwerk zur Risikoklassifizierung, nicht als allgemeines Stimmungsboard.

Für Unternehmen, die in Europa tätig sind oder nach Europa verkaufen, kann eine Underwriting-Frage daher zwei Abzeichen tragen: Versicherungsnachweis und Governance nach dem AI Act. Entwickler, die zwischen Rechtsordnungen feststecken, werden das Muster erkennen. Das Gesetz kann eine bestimmte Dokumentation verlangen, der Versicherer eine andere. Das ist nicht dasselbe, auch wenn Präsentationsfolien etwas anderes nahelegen. Eine Hochrisiko-KI-Bewertung nach dem EU AI Act ist nicht automatisch eine Versicherungseinreichung, und ein Versicherungsfragebogen ist kein Compliance-Zertifikat. Trotzdem ist die Überschneidung nützlich: Inventare, Richtlinien zur Modellnutzung, Incident-Szenarien, Anbieterabhängigkeiten und Prüfungen von Ausschlüssen sind wiederverwendbare Nachweise, wenn sie gepflegt und nicht in Panik zusammengestellt werden.

Die nächste Versicherungsverlängerung wird nicht jede KI-Einführung zu einem juristischen Notfall machen. Sie wird vage Antworten teurer machen. Produktverantwortliche sollten wissen, welche KI-Systeme Nutzer oder Datensätze beeinflussen können, Sicherheitsverantwortliche sollten wissen, wie diese Systeme versagen, und die Rechtsabteilung sollte wissen, welcher Policenwortlaut KI-Risiken einschließt oder ausschließt. Das Marktsignal ist bescheiden und praktisch: Wenn KI im Produkt oder im Workflow steckt, gehört sie jetzt in die Versicherungsakte.