KI-Inferenzkosten: Gartner-Analyse zur Verfünffachung bis 2028

Die günstigste KI-Demo ist immer noch die, die nie einem echten Nutzer begegnet. Sobald ein Agent anfängt zu planen, Kontext abzurufen, Tools aufzurufen, seine eigene Arbeit zu prüfen und sie noch einmal zu machen, weil die erste Antwort nicht brauchbar war, sieht die Rechnung nicht mehr wie ein Chatbot-Experiment aus. Gartners neue Prognose beziffert dieses ungute Gefühl: Die Inferenzkosten pro agentischem Workflow sollen bis 2028 um mehr als das Fünffache steigen. Das ist keine Compliance-Frist, aber alle, die autonome Workflows in die Produktion bringen, sollten es wie eine behandeln.

Wovor Gartner tatsächlich warnt

Gartners Mitteilung im Newsroom besagt, dass die KI-Inferenzkosten pro agentischem Workflow bis 2028 um mehr als das Fünffache steigen werden. Techstrong.ai, das über dieselbe Gartner-Studie berichtet, ergänzt den unangenehmen Teil: Der Anstieg wird erwartet, obwohl die Token-Preise fallen, weil leistungsfähigere Reasoning-Modelle mehr Token und Rechenleistung verbrauchen können, während Agenten mehrere Schritte und Entscheidungen durchlaufen. Einfach gesagt: Günstigere Zutaten helfen nicht viel, wenn das Rezept jetzt viel mehr davon verwendet.

Das ist wichtig, weil ein agentischer Workflow nicht aus einem einzelnen Prompt mit einer sauberen Antwort besteht. Techstrong.ai beschreibt Agenten, die mehrere Schritte und Entscheidungen durchlaufen. Genau an diesem Punkt sollten Finanzteams aufhören, die durchschnittlichen Kosten pro Anfrage als relevante Kennzahl zu akzeptieren. Die Rechnungseinheit ist der abgeschlossene Workflow, einschließlich fehlgeschlagener Versuche, Wiederholungen, Retrieval, Tool-Aufrufe und Eskalation. Wenn Ihr Dashboard das nicht anzeigen kann, misst es nicht das, wovor Gartner warnt.

Die praktische Übersetzung ist einfach. Produktteams müssen entscheiden, welche Workflows eine agentische Behandlung verdienen, Engineering-Teams müssen einfachere Aufgaben an günstigere Modelle weiterleiten, und Finance braucht Grenzen, bevor die Nutzung skaliert. Das als reines Engineering-Thema zu bezeichnen, ist der Weg, auf dem Überraschungen zu Erklärungen im Quartalsbericht werden.

Der Kostenkontroll-Stack ist jetzt Governance

Techstrong.ai sagt, Gartner empfehle Inferenz-Tiering, Token-Limits und Monitoring, um die Kosten agentischer KI unter Kontrolle zu halten. Zylos Research beschreibt eine verwandte Disziplin, Inference FinOps, die sich darauf konzentriert, KI-Rechenausgaben über Anbieter hinweg zu steuern, zu routen, zu cachen und durch Arbitrage zu optimieren. Wenn man das Etikett weglässt, ist die Pflicht vertraut: wissen, was läuft, warum es läuft, wer es genehmigt hat und wann es stoppen sollte.

Für Entwickler werden Architekturentscheidungen dadurch zu Richtlinienkontrollen. Routing entscheidet, ob eine Anfrage ein Frontier-Reasoning-Modell oder ein günstigeres Modell braucht. Caching entscheidet, ob das System noch einmal für Kontext bezahlt, den es bereits abgerufen hat. Genehmigungsschranken entscheiden, ob der Agent weiter Token ausgeben, Tools aufrufen oder an einen Menschen übergeben darf. Das sind keine Verzierungen für ein Architektur-Review. Sie sind das Kostenäquivalent von Zugriffskontrollen.

Zylos Research sagt außerdem, dass Inferenz im Jahr 2026 85 % des Enterprise-KI-Budgets und etwa zwei Drittel der weltweiten KI-Compute-Ausgaben ausmachte. Die Schätzung lautet: Ein einzelner Chatbot-API-Aufruf könnte 0,001 US-Dollar kosten, während ein mehrstufiger Agent, der plant, Kontext abruft, Tools aufruft, reflektiert und sich selbst korrigiert, 0,10 bis 1,00 US-Dollar pro abgeschlossener Aufgabe kosten kann. Natürlich lassen sich diese Zahlen nicht sauber auf jeden Anbieter-Vertrag übertragen. Sie erklären aber, warum der Einkauf härtere Fragen stellen wird als nur, ob die Demo flüssig wirkte.

Beim Stornierungsrisiko geht es nicht um Modellmagie

Forbes berichtet unter Berufung auf Gartner, dass bis Ende 2027 mehr als 40 % der agentischen KI-Projekte eingestellt werden könnten, und führt diese Einstellungen eher auf Managementprobleme als auf Modellfähigkeiten zurück. Als Gründe werden schlechte Governance, unklarer Geschäftswert und mangelnde operative Disziplin genannt, einschließlich Fällen, in denen Chatbots fälschlicherweise als echte Agenten bezeichnet werden. Das ist die weniger glamouröse Version der Geschichte, was meistens bedeutet, dass es die lesenswerte Version ist.

Hier helfen Gewohnheiten aus Recht und Politik, selbst wenn kein Regulator Druck macht. Definieren Sie den Zweck vor der Einführung. Dokumentieren Sie die Entscheidungsrechte, bevor das System handelt. Legen Sie Schwellenwerte für Kosten, Fehlerbehandlung und menschliche Prüfung fest, bevor der Pilot Teil des Tagesgeschäfts wird. Wenn das nach Papierkram klingt: Glückwunsch, Sie haben Produktion entdeckt.

Inside Privacy berichtet, dass das britische Information Commissioner’s Office im Januar 2026 erste Überlegungen zu den datenschutzrechtlichen Auswirkungen agentischer KI veröffentlicht hat, weist aber darauf hin, dass der Bericht keine formelle regulatorische Leitlinie war. Die Unterscheidung ist wichtig. Das ICO hat in diesem Bericht kein neues Regelwerk geschaffen, aber sein Interesse zeigt, dass Autonomie, Datenzugriff und Rechenschaftspflicht inzwischen politische Fragen ebenso wie Produktfragen sind.

Was sich bis 2028 in der Praxis ändert

Gartners Prognose für 2028 verlangt von niemandem, Agentenprojekte abzuschalten. Sie verlangt aber ein anderes Genehmigungsgespräch. Ein Workflow sollte einen erwarteten Wert, erwartete Abschlusskosten, einen Fallback-Pfad und einen namentlich benannten Owner haben, bevor er breiten Zugriff auf Nutzer oder interne Tools bekommt. Wenn diese vier Punkte fehlen, ist der Agent nicht autonom. Er ist unbeaufsichtigtes Ausgeben von Geld mit einer freundlichen Oberfläche.

Der nächste sinnvolle Schritt ist nicht, Agenten zu verbieten oder ein weiteres Dashboard zu kaufen, nur weil ein Anbieter das Wort Governance verwendet hat. Beginnen Sie mit den Workflows, bei denen Autonomie einen messbaren Nutzen hat, und setzen Sie dann Routing, Caching, Token-Limits, Monitoring und Genehmigungsschranken ein, bevor das Volumen kommt. Beobachten Sie Gartners Kostenprognose bis 2028, die gemeldete Einstellungsquote bis Ende 2027 und die Datenschutzregulierer, die agentische Systeme ins Auge fassen. Entwickler, die Inferenzökonomie als Produktpolitik behandeln, werden später weniger dramatische Meetings haben. Ihre Anwälte hören vielleicht sogar auf, in Presseerklärungen fröhliche Formulierungen zu verwenden — daran erkennt man, dass sich die Dinge verbessern.