Agentische KI-Governance wird Teil der betrieblichen Praxis

Ein Agent, der eine E-Mail zur Rückerstattung entwirft, ist eine Funktion. Ein Agent, der die Rückerstattung genehmigt, den Kundendatensatz aktualisiert und die Abwicklung auslöst, ist delegierte Autorität mit einem Chatfenster daran. Genau an dieser Unterscheidung wird Governance für agentische KI weniger philosophisch und ähnelt stärker Zugriffsmanagement, Release-Prüfung und Audit-Nachweisen. Das Policy-Memo kann bleiben, aber es darf nicht mehr die ganze Arbeit allein erledigen.

Palo Alto Networks beschreibt das Thema als delegierte Autorität

Palo Alto Networks definiert Governance für agentische KI als das strukturierte Management delegierter Autorität in autonomen KI-Systemen, die für eine Organisation Aktionen planen und ausführen. Das wichtige Wort ist Autorität, nicht Autonomie. Wenn ein System zur Laufzeit auf Tools, Daten, Konten oder Workflows zugreifen kann, muss Governance beschreiben, worauf es zugreifen darf und was es tun darf, nicht nur, ob das zugrunde liegende Modell höflich klingt.

Palo Alto Networks sagt außerdem, dass diese Governance klare Grenzen dafür setzt, worauf Agenten zur Laufzeit zugreifen und was sie ausführen können, und dass sie über Modell-Alignment, Compliance oder Monitoring hinausgeht. In operative Pflichten übersetzt bedeutet das: Teams müssen wissen, welche Agenten existieren, welche Tools jeder einzelne aufrufen kann, wer für das Deployment verantwortlich ist und welche Nachweise zeigen, was passiert ist, nachdem aus dem Prompt eine Aktion wurde. Der alte Ordner zu verantwortungsvoller KI ist nicht nutzlos, aber er ist keine Laufzeitkontrolle. Noch nie hat jemand mit einem Werte-Statement einen unautorisierten Datenbankeintrag verhindert.

IAPP zeigt, warum Leitplanken jetzt mehrere Ebenen brauchen

IAPP berichtet, dass agentische künstliche Intelligenz für viele Organisationen ein aktives Erkundungsfeld ist, und verweist dabei auf eine Umfrage von IBM und Morning Consult unter 1.000 Enterprise-KI-Entwicklern, in der 99 % angaben, KI-Agenten zu erkunden oder zu entwickeln. IAPP beschreibt diese Agenten als zielorientierte Systeme, die Aufgaben erledigen und Workflows auf autonome Weise ausführen sollen. Dadurch verschiebt sich Governance von der Modellprüfung zur Workflow-Prüfung, weil das System nicht mehr nur Text erzeugt, den ein Mensch bewertet.

In einer zugehörigen IAPP-Beschreibung einer Webkonferenz wird die Governance-Antwort als dreistufiges Rahmenwerk organisiert: grundlegende, risikobasierte und gesellschaftliche Leitplanken. Diese Aufteilung ist hilfreich, weil nicht jede Kontrolle in dieselbe Schublade gehört. Identität, Protokollierung und Zugriffsgrenzen liegen nah am System; Risikokontrollen hängen vom Anwendungsfall ab; breitere gesellschaftliche Leitplanken zwingen Teams zu fragen, ob ein Deployment in der vorgeschlagenen Form überhaupt existieren sollte.

@title IAPP-Leitplankenebenen
@source AI governance in the agentic era | IAPP

  Agentic governance
     │
     ├─ Foundational
     ├─ Risk based
     └─ Societal

@caption IAPP ordnet Leitplanken für Deployments agentischer KI über drei Ebenen hinweg ein.

Die praktische Lehre ist nicht, dass jeder Agent ein Komitee braucht. Sie ist, dass jeder Agent eine Einstufung braucht. Ein Terminplanungsassistent und ein Agent, der die Berechtigung für Versicherungsleistungen ändert, schaffen nicht dasselbe Compliance-Problem. Sie als gleichwertig zu behandeln, ist genau der Weg, auf dem Governance-Programme zugleich belastend und löchrig werden.

IMDA und Info-Tech verweisen auf adaptive Programme, nicht auf jährliches Theater

IMDA veröffentlichte Version 1.5 seines Model AI Governance Framework for Agentic AI am 20. Mai 2026 und aktualisierte sie am 5. Juni 2026. Die Gliederung des Dokuments behandelt Kernkomponenten eines Agenten, Multi-Agenten-Setups, wie das Agentendesign Grenzen und Fähigkeiten beeinflusst, sowie Quellen und Arten von Risiken. Diese Auswahl ist aufschlussreich: Governance wandert in die Architektur hinein und sitzt nicht mehr als juristischer Anhang daneben.

Die Info-Tech Research Group kommt aus einem anderen Blickwinkel zur gleichen operativen Wendung und argumentiert, dass traditionelle Governance-Rahmenwerke kaum Schritt halten können, weil sie zu statisch sind, während sich Technologie, Risiken und regulatorische Standards verändern. Ihre Forschungsseite sagt, Organisationen bräuchten ein dynamisches Modell der KI-Governance für agentische KI und zukünftige KI-Technologien. Streift man den Beratungsanstrich ab, ist die Botschaft vernünftig: Eine Kontrolle, die nicht überarbeitet werden kann, wenn ein Agent ein neues Tool erhält, ist keine besonders gute Kontrolle.

Für Entwicklerinnen und Entwickler verändert das die Release-Checkliste. Ein Produktteam sollte beantworten können, was der Agent entscheiden darf, was er ausführen kann, was er abrufen kann und wann ein Mensch eingreifen muss. Ein Einkaufsteam sollte Anbietern dieselben Fragen stellen, denn das Auslagern des Agenten lagert die Verantwortung in keinem sinnvollen operativen Sinn aus. Zusicherungen von Anbietern, dass sie mehr Orientierung durch Regulierungsbehörden begrüßen, sollten im traditionellen Dialekt gelesen werden: Die Rechtsabteilung ist im Raum.

Was sich für Teams jetzt ändert

Die kurzfristige Compliance-Aufgabe besteht darin, Prinzipien in operative Artefakte zu übersetzen. Beginnen Sie mit einem Agentenregister, denn nicht erfasste Agenten können nicht gesteuert werden. Weisen Sie Berechtigungen jedem Agenten zu, nicht nur dem Menschen, der ihn gestartet hat, und stellen Sie sicher, dass Protokolle Tool-Aufrufe und Workflow-Aktionen erfassen, nicht nur Prompts und Antworten. Wenn ein Agent ausführen kann, muss der Audit-Trail die Ausführung zeigen.

Die nächste Kontrolle ist Scope-Disziplin. IAPP unterscheidet zwischen Agenten, die auf bestimmte Aufgaben und einfache Workflows ausgerichtet sind, und breiterer agentischer KI mit mehreren Agenten. Governance sollte also bemerken, wenn ein Deployment diese Grenze überschreitet. Multi-Agenten-Designs können Übergaben, Berechtigungen und Fehlerpunkte vervielfachen, was bedeutet, dass die Prüfung dem Workflow folgen sollte, statt am Modell-Endpunkt aufzuhören.

Die sinnvolle Richtung ist klar genug. Governance für agentische KI wird zu einer Frage begrenzter Autorität, mehrschichtiger Leitplanken und Nachweise, die ein Audit überstehen. Rechnen Sie damit, dass Rahmenwerke und Regulierungsbehörden sich weiter von Prinzipien hin zu Kontrollen bewegen, die getestet werden können. Entwicklerinnen und Entwickler, die diesen Wechsel früh vollziehen, werden später weniger Zeit damit verbringen, Slogans in Tickets zu übersetzen.