Warum der Tokenpreis nicht die Betriebskosten einer KI-Anwendung sind
Kurz gesagt
Der API-Preis pro Anfrage bildet nur die reine Modellnutzung ab. Zu den tatsächlichen Vollkosten einer KI-Anwendung gehören zusätzlich Datenhaltung, Plattform, Beobachtung des Betriebs, Personal, Sicherheit, Zuverlässigkeit, Compliance und Migration. Wirtschaftlich sinnvoll ist eine KI-Lösung nur, wenn diese Gesamtkosten pro tatsächlich erfolgreichem Ergebnis günstiger sind als die beste Alternative — nicht, wenn nur der Tokenpreis niedrig ist.
Der Denkfehler bei der Kostenschätzung
Viele Kostenschätzungen für KI-Projekte beginnen und enden beim API-Preis: Was kostet eine Million Token, was kostet eine Anfrage. Das ist verständlich, weil dieser Preis öffentlich, konkret und leicht vergleichbar ist. Er ist aber nur eine Teilmenge der tatsächlichen Kosten. Ein Modell kann pro Token günstig sein und als Gesamtsystem trotzdem teuer werden — weil rund um den einzelnen Modellaufruf noch Datenpflege, Integration, Tests, Betrieb, Sicherheit und Personal stehen.
Bei kleinen und mittleren Anwendungen zeigt sich das besonders deutlich: In Rechenbeispielen mit Modell-, Plattform- und Personalkosten macht der reine Modellpreis oft nur einen einstelligen Prozentsatz der monatlichen Gesamtkosten aus — den größten Teil tragen Entwicklung, Datenpflege, Review, Support und Governance.
Die vollständigen Kostenblöcke einer KI-Anwendung
Eine belastbare Kalkulation deckt neun Blöcke ab:
- Modell und Tools: Eingabe-, Cache-, Ausgabe- und gegebenenfalls Reasoning-Token sowie Zusatzwerkzeuge wie Websuche oder Bildverarbeitung
- Daten und Retrieval: Parsing, Embeddings, Vektorsuche, Aktualisierung des Datenbestands
- Plattform und Compute: Serverless-Funktionen, virtuelle Maschinen, GPU-Kapazität, Warteschlangen, Netzwerk
- Datenbank und Storage: Datenbank, Objektspeicher, Backups, Datenverkehr aus der Cloud heraus
- Qualität und Betrieb: Evaluation, Review, Monitoring, Störungsbearbeitung, Support, Migration
- Governance und Risiko: Sicherheit, Datenschutz, Dokumentation, Audit, Kapazitätsreserve, Notfallwiederherstellung
- Personal: Entwicklungszeit, Betriebszeit, Review-Zeit — mit realistischem Vollkostensatz, nicht als versunkene Kosten behandelt
- Migration: Regressionstests und Anpassungen, wenn ein Anbieter ein Modell abkündigt oder Preise ändert
- Reserve: ein bewusst ausgewiesener Puffer für Ausfall, Lastspitzen und Preisänderungen
Die Formel dahinter ist einfach zu benennen, auch wenn die Zahlen dahinter Arbeit machen: Die Vollkosten ergeben sich aus der Summe aller genannten Blöcke. Wirtschaftlich ist eine Architektur nur, wenn sie bei der geforderten Qualität, Sicherheit und Verfügbarkeit geringere Vollkosten oder einen höheren belegbaren Wert erzeugt als die beste realistische Alternative — und diese Alternative kann auch der bestehende Prozess ohne KI sein.
Der Nenner entscheidet: Kosten pro Ergebnis, nicht pro Token
Token sind eine technische Verbrauchseinheit. Für die Steuerung eines Unternehmens ist eine andere Kennzahl aussagekräftiger: die Kosten pro tatsächlich gelöstem Fall, freigegebenem Dokument, qualifiziertem Lead oder erledigtem Vorgang. Eine auf den ersten Blick günstige Anfrage wird teuer, wenn nur ein Teil der Antworten am Ende brauchbar ist. Deshalb gehört die Erfolgsquote in den Nenner der Rechnung: Fehlversuche, manuelle Nacharbeit und eskalierte Fälle müssen mitgezählt werden, sonst bleiben sie unsichtbar.
Ein zusätzlicher Punkt wird häufig übersehen: API-Nutzung ist überwiegend variabel, während eigener Betrieb, reservierte Kapazität und Betriebsteams überwiegend fixe Kosten erzeugen. Diese Trennung zeigt, ab welchem Volumen eine Architektur überhaupt wirtschaftlich auslastungsfähig wird. Ohne sie entsteht ein scheinbarer Break-even aus Monatswerten, die gar nicht miteinander vergleichbar sind.
Die Nullvariante gehört immer in die Rechnung
Eine KI-Anwendung ist nur dann wirtschaftlich, wenn sie gegen eine reale Alternative gewinnt: den bestehenden Prozess, eine klassische Suche, ein Regelwerk, ein Formular, eine Datenbankabfrage oder schlicht keine Automatisierung. Ohne diese Nullvariante wird lediglich zwischen verschiedenen KI-Architekturen optimiert, obwohl KI selbst in manchen Fällen die falsche Lösung ist. Deterministische Aufgaben wie Validierung, Sortierung oder Berechnungen lassen sich häufig zuverlässiger und günstiger mit klassischer Software lösen — das LLM übernimmt dann nur den Teil, der tatsächlich unstrukturierte Sprache verarbeitet.
Was das für Ihre Budgetplanung bedeutet
Wer ein KI-Budget plant, sollte drei Dinge vorab festlegen: den fachlichen Vorgang, um den es geht, das Kriterium für ein erfolgreiches Ergebnis und die Alternative ohne KI. Erst danach lässt sich seriös schätzen, ob und in welcher Größenordnung sich der Einsatz lohnt. Eine Kalkulation, die ausschließlich auf dem Modellpreis pro Million Token beruht, ist in aller Regel eine grobe Oberflächenrechnung — belastbar wird sie erst mit Messdaten zu Volumen, Erfolgsquote, Nacharbeit und Lastform.