Die neue Kostenfalle bei KI: Warum Token, Credits und Agentenläufe in die Wirtschaftlichkeitsrechnung gehören

KI-Automatisierung wird oft mit einem zu groben Kostenbild gestartet. Lizenz buchen, Pilot aufsetzen, erste Ergebnisse sehen – und die laufenden Modellkosten später als Nebensache behandeln. Das funktioniert, solange ein Team einen Assistenten gelegentlich nutzt. Es funktioniert nicht mehr, wenn Agenten Dokumente lesen, Daten abgleichen, Rückfragen vorbereiten und Prozesse im Hintergrund anstoßen.

Dann entstehen Kosten nicht nur durch eine Monatslizenz. Jede Verarbeitung verursacht Verbrauch: Token, Credits, Modellaufrufe, Suchvorgänge, Datenzugriffe und gegebenenfalls Rechenzeit in eigener Infrastruktur. Diese Kosten sind kein Argument gegen Automatisierung. Sie müssen aber in die Wirtschaftlichkeitsrechnung gehören – genauso wie Bearbeitungszeit, Fehlerquote und Durchlaufzeit.

Die wichtigste Rechnung beginnt nicht bei den Tokenkosten

Die falsche Frage lautet: „Was kostet uns der Agent pro Monat?“ Die richtige Frage lautet: „Was kostet der Prozess heute ohne Agent – und welchen Anteil davon ersetzt oder verbessert die Automatisierung?“

Ein Sachbearbeiter braucht beispielsweise zehn Minuten, um eine eingehende Anfrage zu prüfen, Angaben aus mehreren Dokumenten zu übertragen und eine Rückfrage vorzubereiten. Bei 500 Vorgängen im Monat sind das mehr als 80 Arbeitsstunden – zuzüglich Wartezeiten, Medienbrüchen und Fehlerkorrekturen. Wenn ein Agent die Unterlagen vorsortiert, Daten extrahiert und nur die Ausnahmefälle zur Freigabe vorlegt, können dafür Modellkosten entstehen. Trotzdem ist der wirtschaftliche Effekt häufig positiv, weil die manuelle Bearbeitung deutlich teurer wäre.

Genau deshalb sollten Unternehmen nicht auf den Preis eines einzelnen Modellaufrufs starren. Entscheidend ist der Vergleich mit dem bisherigen Prozess: Personalkosten, Durchlaufzeit, Fehlerkosten, Rückfragen und gebundene Fachkapazität. Wer diese Größen nicht kennt, kann weder einen teuren noch einen günstigen KI-Prozess seriös bewerten.

Mehr dazu, wie sich Prozesse vor dem Einsatz von KI wirtschaftlich priorisieren lassen, beschreibt auch unser Beitrag KI-Workflow-Automatisierung für den Mittelstand: Wo Prozesse 2026 wirklich wirtschaftlich werden.

Warum Mittelständler anders rechnen sollten als Großunternehmen

Für die meisten mittelständischen Unternehmen ist ein leistungsfähiges Cloud-Modell der richtige Startpunkt. Die anfängliche Integration ist überschaubar, neue Fähigkeiten stehen sofort zur Verfügung und das Risiko einer teuren eigenen Infrastruktur bleibt gering. Bei einer begrenzten Zahl von Anfragen, Dokumenten oder Entscheidungsentwürfen sind die laufenden Kosten in der Regel klein gegenüber dem Aufwand, einen vergleichbaren Prozess manuell zu bearbeiten.

Ein Mittelständler sollte deshalb nicht vorschnell versuchen, jedes große Sprachmodell durch ein lokales Modell zu ersetzen. Das schafft zusätzliche Aufgaben: Betrieb, Updates, Monitoring, Sicherheitskonzept, Evaluierung und Fachwissen. Wenn ein Prozess nur einige hundert oder wenige tausend Mal im Monat läuft, kann diese Eigenleistung wirtschaftlich teurer sein als die Nutzung eines guten Cloud-Modells.

Die Aufgabe im Mittelstand lautet eher: Verbrauch transparent machen und den Prozess sauber begrenzen. Welche Schritte brauchen tatsächlich ein großes Modell? Welche Informationen lassen sich vorher strukturiert prüfen? Wann genügt ein festes Regelwerk? Wo muss ein Mensch freigeben? Schon diese Fragen senken Kosten und verbessern die Qualität.

Ab wann kleinere oder lokale Modelle sinnvoll werden

Bei Großunternehmen verschiebt sich die Rechnung. Wenn ein eng definierter, hochstrukturierter Prozess sehr häufig läuft – etwa die Klassifikation großer Dokumentenmengen, die Extraktion standardisierter Felder oder die erste Einordnung wiederkehrender Kundenanfragen –, können Tokenkosten schnell relevant werden. Dann lohnt es sich, die Modellarchitektur differenziert zu planen.

Nicht jeder Schritt benötigt das stärkste verfügbare Modell in der Cloud. Für klar begrenzte Aufgaben reichen oft kleinere Modelle. Sie können günstiger betrieben, schneller ausgeführt und bei passenden Anforderungen auch lokal oder in einer kontrollierten Private-Cloud-Umgebung eingesetzt werden. Das ist besonders interessant, wenn Datenvolumen, Wiederholrate und Struktur des Prozesses hoch sind.

Die Voraussetzung ist jedoch wichtig: Das Modell muss für die konkrete Aufgabe getestet sein. Ein kleines lokales Modell ist keine pauschale Sparmaßnahme. Es ist sinnvoll, wenn Eingaben und erwartete Ergebnisse ausreichend standardisiert sind, Qualitätskriterien messbar bleiben und ein Wechsel auf ein stärkeres Modell für Sonderfälle vorgesehen ist.

Praktisch entsteht daraus häufig eine Modellkaskade:

1. Regeln, Validierungen und vorhandene Daten lösen alles, was eindeutig ist.
2. Ein kleineres Modell bearbeitet die häufigen, strukturierten Fälle.
3. Ein leistungsfähiges Modell übernimmt komplexe Sprache, Ausnahmen und unklare Kontexte.
4. Fachverantwortliche entscheiden dort, wo Risiko, rechtliche Wirkung oder Geschäftsrelevanz es verlangen.

So werden große Modelle nicht aus Prinzip vermieden. Sie werden dort eingesetzt, wo ihre Qualität tatsächlich einen Unterschied macht.

Tokenkosten sind eine Prozesskennzahl, keine Überraschung auf der Plattformrechnung

Sinnvoll sind Kennzahlen pro Prozess: Kosten je Vorgang, Modellaufrufe je abgeschlossenem Fall, Anteil der automatisch abgeschlossenen Fälle, Anteil der Eskalationen und die Kosten der manuellen Nachbearbeitung. Steigt beispielsweise die Zahl der Aufrufe pro Vorgang, kann das an unnötig langen Prompts, mehrfachen Schleifen, fehlender Vorverarbeitung oder schlecht abgegrenzten Agentenaufgaben liegen.

Wie Unternehmen Tokenkosten gezielt reduzieren können

• Daten vor dem Modellaufruf strukturieren, statt ganze Dokumentenpakete ungerichtet einzulesen.
• Kontext auf die Informationen begrenzen, die für die Aufgabe wirklich nötig sind.
• Zwischenergebnisse speichern und wiederverwenden, statt dieselbe Analyse mehrfach auszuführen.
• Regeln und klassische Automatisierung dort einsetzen, wo keine sprachliche Bewertung nötig ist.
• Große Modelle nur für komplexe oder risikoreiche Schritte reservieren.
• Ausnahmen messen und gezielt verbessern, statt jeden Fall mit maximaler Modellleistung zu bearbeiten.

Diese Maßnahmen reduzieren nicht nur Tokenkosten. Sie machen die Abläufe nachvollziehbarer, schneller und leichter zu prüfen.

Fazit: Nicht der billigste Modellaufruf entscheidet, sondern die bessere Gesamtrechnung

Für viele mittelständische Unternehmen bleibt die Cloud zunächst der vernünftige Weg. Die Kosten eines guten Modells sind meist deutlich geringer als die Zeit, die Fachkräfte für eine wiederkehrende manuelle Bearbeitung aufwenden würden. Großunternehmen mit hohen, stark standardisierten Mengen sollten dagegen systematisch prüfen, welche Teilschritte kleinere oder lokale Modelle übernehmen können.

In beiden Fällen gilt: Tokenkosten müssen sichtbar sein, aber sie dürfen nicht isoliert beurteilt werden. Entscheidend ist, was ein Prozess insgesamt kostet, wie zuverlässig er läuft und wie viel Fachkapazität er freisetzt. Wer die Automatisierung daran misst, baut keine Kostenfalle – sondern einen steuerbaren wirtschaftlichen Prozess.