awards
WiWo Award TRUSTEQ
BrandEins Berater 2026 Award
TRUSTEQ kununu awards
TRUSTEQ
CooperativeExcellence

Wenn Tokens und Nutzung immer teurer werden und Abhängigkeiten sich erhöhen

Kostenexplosion in der KI: Ist das LLM der nächste Mainframe?

Ein paar Prompts in der Fachabteilung, ein Chatbot im Service, Unterstützung in der IT-Entwicklung. So haben die meisten Unternehmen generative KI anfänglich eingesetzt: überschaubar, experimentell, im Budget kaum spürbar.

Wenige Jahre hat sich das Bild grundlegend verändert. Vereinzelte Chat-Assistentenwurden zu Agenten, welche eigenständig komplexe Anfragen bearbeiten können, Tools aufrufen und auf Wissensdatenbanken zugreifen können. Die dafür anfallenden Nutzungskosten werden vom jeweiligen KI- oder Cloud-Anbieter dem Betreiber bzw. Kunden in Rechnung gestellt – zumeist auf Basis der Anfragen, verarbeiteten Token oder Tool-Aufrufe. Diese nutzungsbasierte Preisgestaltung unterscheidet KI-Workloads (also alle Aufgaben, Prozesse und Rechenlasten, die im Zusammenhang mit KI anfallen) von klassischen Software-Anwendungen – der Aufwand pro Anfrage ist keine feste Größe mehr, weil Agenten autonom mehrere Schritte auslösen. Für viele Unternehmen ähnelt die KI-Rechnung damit eher einer Stromabrechnung als einem Software-Abo.

Damit stellt sich eine Frage, die in der IT als beantwortet galt: Wie werden knappe und teure Rechenkapazitäten verteilt, priorisiert und budgetiert? Wird Rechenleistung wieder zu einem rationierten Gut – und das LLM zum nächsten Mainframe?

Das Problem in Zahlen

Die Zahlen beschreiben kein reines Mengenproblem. Der Verbrauch wächst, der Preis pro Token steigt mit, und innerhalb der Unternehmen verteilt sich beides extrem ungleich – während die Führungsebene nur einen Teilüberblick hat. Am Marktpreis lässt sich wenig ändern, am eigenen Verbrauch dagegen sehr viel, sofern er sichtbar ist. Dahinter stehen drei Entwicklungen, die sich gegenseitig verstärken: eine technische, eine im Nutzungsverhalten und eine organisatorische.

Treiber der Kostenexplosion

Ein Chatbot beantwortet eine Anfrage und wartet dann auf weitere Instruktionen. Ein Agent plant, ruft Tools auf, liest Dokumente und prüft sein eigenes Ergebnis – jede dieser Schleifen kostet Tokens. Weil agentische Systeme den wachsenden Kontext einer Aufgabe bei jedem Teilschritt erneut einreichen, steigt die abgerechnete Tokenmenge laut BCG etwa quadratisch mit der Sitzungslänge. Wie starke Auswirkungen dies hat, zeigt der IT-Dienstleister adesso: Mit der Umstellung auf agentische Softwareentwicklung hat sich der Tokenverbrauch dort seit Herbst 2025 verhundertfacht.

Zwischen einem „einfachen“ und einem Frontier-Modell liegt laut BCG ein Preisunterschied von rund Faktor 5 bis 25 pro Token. Im Alltag wird diese Unterscheidung anfangs selten genutzt: Nutzende greifen zunächst bevorzugt zu den teuersten Frontier-Modellen, bis das Unternehmen Standardmodelle definiert und klare Empfehlungen ausspricht. Einzelne Technologiekonzerne haben den Effekt zeitweise sogar über interne Ranglisten zum „Tokenmaxxing" verstärkt – inzwischen sind diese überwiegend wieder abgeschafft.

Der dritte Treiber ist keine Technik-, sondern eine Organisationsfrage. Wenn Tokenkosten als Sammelposten in der IT-Abteilung landen, lässt sich kaum feststellen, welches Team, welcher Use Case oder welcher Kundenauftrag sie verursacht hat – und die enorme Streuung zwischen Power-Usern und Gelegenheitsnutzern bleibt unsichtbar. Laut KPMG haben 33 % der befragten Führungskräfte Schwierigkeiten mit dem Verständnis der KI-Kostenstrukturen und 23 % mit nutzungsabhängigen Kosten allgemein. Bain beobachtet zudem, dass KI-Governance heute nahezu gleichmäßig zwischen IT, Fachbereichen und zentralen Teams verteilt ist – ohne klaren Eigentümer.

Die IT-Branche hat Jahrzehnte damit verbracht, den Mainframe zu entkommen. Sei es über Client-Server-Architekturen, Virtualisierung, Container oder die Cloud. Mit zentralen KI-Plattformen entsteht nun wieder eine ähnliche Struktur: Ein Frontier-Modell zu trainieren erfordert Investitionen, die nur wenige Anbieter aufbringen können. Die entstandene Rechenleistung wird anschließend wie eine Versorgungsleistung bereitgestellt, mit metriertem Zugang: API-Keys statt Terminals, Token-Kontingente statt Job-Queue.

Die Analogie beschreibt dabei kein Versehen der Technikgeschichte, sondern eine Bewegung entlang zweier Achsen: zentral oder verteilt, knapp oder elastisch.

Auch die Abrechnungslogik wiederholt sich. Mainframe-Software wird bis heute weitgehend nach verbrauchter Kapazität lizenziert, gemessen in MSU beziehungsweise MIPS. Wie bei der Token-Abrechnung entsteht die Rechnung damit nicht dort, wo Geschäftswert entsteht, sondern dort, wo technische Details entscheiden. Bezeichnenderweise bewegt sich IBM mit „Tailored Fit Pricing" selbst weiter auf verbrauchsbasierte Modelle zu – die beiden Welten konvergieren.

Ein Unterschied bleibt, und er ist entscheidend: Der Mainframe wurde teurer, weil ein Hersteller die Abhängigkeit seiner Kunden ausnutzen konnte. Auf Modellebene herrscht dagegen scharfer Wettbewerb, und für ein festes Leistungsniveau ist der Preis dramatisch gefallen – laut Stanford HAI von 20 USD je Million Token im November 2022 auf 0,07 USD im Oktober 2024. Die Knappheit sitzt heute eine Ebene tiefer: bei GPUs, Rechenzentren und Energie. Dort bremsen lange Vorlaufzeiten den Ausbau, während die Anbieter ihre frühen Subventionen auslaufen lassen.

Für Zugriff und Abrechnungslogik trägt der Vergleich also. Daraus folgt: Metrierter Verbrauch lässt sich nicht über den Einkaufspreis kontrollieren, sondern nur über Architektur, Transparenz und messbaren Erfolg.

Lösungsansätze

Was das praktisch bedeutet, lässt sich in vier Ansätze fassen. Sie setzen an unterschiedlichen Stellen an: an der Sichtbarkeit der Kosten, an der technischen Architektur, an der Kompetenz der Nutzenden und an der Frage, was ein Workflow überhaupt einbringt. BCG beschreibt vergleichbare Hebel in seiner Analyse zu Token-Kosten. Einführen lassen sie sich unabhängig voneinander – ihre Wirkung entfalten sie aber erst gemeinsam, weil jeder einzelne nur einen Teil des Verbrauchs erreicht.

Transparenz vor Optimierung

Bevor Kosten optimiert werden können, muss sichtbar sein, was welchen Verbrauch verursacht. Somit empfiehlt es sich, jeden relevanten Workflow einem Verantwortlichen, einer Funktion, einer P&L-Position, einem Modell und einem angestrebten Ergebnis zuzuordnen und erst anschließend auf Ergebnisebene zuzuweisen.

Routing

Aufgaben geringer Komplexität sollten leichteren oder Open-Weight-Modellen zugewiesen werden, sodass Frontier-Modelle für echte Denkarbeit genutzt werden können. Idealerweise erfolgt dieses Routing automatisiert auf Basis der gestellten Anfrage. Entscheidend ist die Messgröße: Ein schwaches Modell, das mehrere Anläufe braucht, kann pro erfolgreichem Ergebnis teurer sein als ein starkes.

AI Literacy

Nutzende sollten lernen, die kleinste nützliche Antwort anzufordern, Ausgabelängen zu begrenzen, keine irrelevanten Dokumente einzufügen und Exploration von Ausführung zu trennen – vermittelt über unternehmensweite Programme und zielgruppenspezifische Trainings.

Nutzen statt Aktivität messen

Verbrauchsintensive Workflows brauchen einen regelmäßigen Review über Ausbau, Optimierung oder Einstellung. Maßstab sind nicht erzeugte Codezeilen, sondern ausgelieferte, im Review bestandene Arbeit – inklusive des menschlichen Aufwands für Spezifikation, Prüfung und Freigabe.

Ist das LLM der nächste Mainframe? In der Marktstruktur nicht: Der Wettbewerb zwischen den Anbietern ist scharf, und pro Leistungseinheit wird Intelligenz weiter günstiger. In Zugriff und Abrechnung dagegen schon – zentral bereitgestellt, metriert, kontingentiert. Die Rechnungen steigen deshalb nicht, weil einzelne Token zu teuer wären, sondern weil agentische Workflows einen Verbrauch erzeugen, den niemand geplant und kaum jemand zugeordnet hat. Wer heute weiß, welcher Use Case welchen Verbrauch verursacht und welchen Nutzen er liefert, muss KI morgen nicht rationieren, sondern kann sie gezielt skalieren.

Raphael Travnicek

AI Consultant @ TRUSTEQ

Quellen:

Ramp Economics Lab, Top SaaS Vendors on Ramp: https://ramp.com/data/top-saas-vendors-on-ramp-may-2026

J.P. Morgan Private Bank, KI-Nutzung explodiert. Ebenso die Kosten: https://privatebank.jpmorgan.com/eur/de/insights/markets-and-investing/tmt/ai-use-is-exploding-so-are-the-bills

KPMG, Global AI Pulse Q2 2026: https://kpmg.com/xx/en/our-insights/ai-and-technology/ai-pulse.html

BCG, Return on AI: What CEOs Need to Know About the True Cost of Artificial Intelligence: https://www.bcg.com/publications/2026/how-ceos-can-optimize-ai-token-costs

BCG, Return on AI: How CFOs and CIOs Can Manage the Token Meter: https://www.bcg.com/publications/2026/managing-ai-token-costs

Computerwoche, Wie Adesso der KI-Kostenexplosion trotzt: https://www.computerwoche.de/article/4210879/wie-adesso-der-ki-kostenexplosion-trotzt.html

Computerwoche, Tokenmaxxing ist einfach nur dumm: https://www.computerwoche.de/article/4173177/tokenmaxxing-ist-einfach-nur-dumm.html

Bain & Company, Your AI Budget Is Growing. Your Returns Aren't. Here's Why: https://www.bain.com/insights/your-ai-budget-is-growing-your-returns-arent-heres-why/

Stanford HAI, The 2025 AI Index Report: https://hai.stanford.edu/ai-index/2025-ai-index-report