Welche Kosten gehören wirklich zur Total Cost of Ownership eines KI-Systems?
Kurz gesagt
Die Total Cost of Ownership eines KI-Systems umfasst neben Lizenz- oder Tokenpreis mindestens Problem- und Prozessanalyse, Datenaufbereitung, Integration, Evaluation, Human Review, Schulung, laufenden Betrieb, Governance und Exitkosten. Gerade bei Agenten oder tief integrierten Systemen ist der sichtbare Modellpreis oft nur ein kleiner Teil der tatsächlichen Kosten.
Die vollständige Kostenlandkarte
Eine belastbare TCO-Betrachtung unterscheidet einmalige, wiederkehrende und risikobezogene Kostenblöcke:
- Einmalig: Problem- und Prozessanalyse, Datenaufbereitung (Extraktion, Bereinigung, Labeling, Rechteprüfung), Integration (API, Zugriffsrechte, Anbindung an CRM/ERP, Logging), Evaluation und Validierung, Einführung und Change (Schulung, Kommunikation, Dokumentation)
- Wiederkehrend fix: Lizenzen und Grundgebühren, Plattform- und Vektordatenbankkosten
- Wiederkehrend variabel: Inferenz und Tools (Tokens, Bild-/Audioverarbeitung, Agentenschritte, externe API-Aufrufe)
- Wiederkehrend laufend: Human Review und Ausnahmebearbeitung, Betrieb und Support, Daten- und Wissenspflege, Governance, Recht und Sicherheit
- Bei Änderung: Modell- und Prozesswechsel (Regressionstests, Migration, Anpassung von Prompts oder Routing)
- Risiko: Fehler- und Ausfallkosten (Nacharbeit, Falschentscheidungen, Kunden- und Produktionsschäden)
- Exit: Beendigung und Migration (Datenexport, Rückbau, Parallelbetrieb, Restverträge)
- Opportunität: gebundene Schlüsselressourcen, die für Alternativprojekte fehlen
Warum variable Kosten so schwer zu schätzen sind
Bei API- oder Agentensystemen werden die laufenden Kosten nicht allein vom Preis pro Million Tokens bestimmt, sondern von mehreren Treibern gleichzeitig:
- Kontextlänge: mehr Eingabetokens bedeuten höhere Kosten und teils schlechtere Fokussierung
- Agentenschritte: mehrere Modell- und Toolaufrufe je abgeschlossenem Ziel
- Retries: Fehler, Timeouts oder unbrauchbare Outputs erzeugen kostenpflichtige Wiederholungen
- Reviewzeit: menschliche Prüfung kann der dominante Kostenblock sein, nicht die Inferenz selbst
- Akzeptanzquote: verworfene Outputs verursachen Kosten ohne Nutzen
- Lastprofil und Modellmix: Unterauslastung bei Eigenbetrieb, Spitzenpreise bei schwankender Nutzung
Die richtige Stückkostenkennzahl lautet deshalb nicht „Kosten pro KI-Antwort", sondern Kosten pro akzeptiertem, geprüftem und tatsächlich verwendetem Ergebnis: zugeordnete Fixkosten plus Inferenz, Tools, Review, Nacharbeit und erwartete Fehlerkosten, geteilt durch die Zahl akzeptierter Ergebnisse.
Verdeckte technische Schuld
KI-Systeme bauen Daten-, Modell-, Konfigurations- und Abhängigkeitsketten auf. Änderungen an Datenquellen, Prompts, Modellen, Tools oder Schwellenwerten können unerwartete Wechselwirkungen auslösen. Bei generativen und agentischen Systemen kommen nicht deterministische Ausgaben, Preis- und Funktionsänderungen der Anbieter sowie komplexe Toolketten hinzu. Diese „technische Schuld" muss über die gesamte Nutzungsdauer budgetiert werden – sie zeigt sich häufig erst nach dem Pilotbetrieb und wächst mit Integrationsgrad und Lebensdauer des Systems.
Sicherheit, Recht und Governance sind Kostenblöcke, keine Formalität
Datenschutz, IT-Sicherheit, regulatorische Vorgaben und Haftungsfragen sind keine pauschalen Gemeinkosten, sondern können die konkrete Architektur, die Anbieterwahl und den zulässigen Datenumfang verändern. Prompt Injection, überhöhte Toolberechtigungen und unsichere Outputs erzeugen eigene Präventions-, Monitoring- und Incident-Kosten. Bei Agenten mit Handlungsbefugnis muss der erwartete Schaden aus Fehlaktionen ebenso in die Rechnung wie die Kosten für Limits, Freigaben, Protokollierung und Interventionsmöglichkeiten.
Make-or-Buy als eigene Entscheidung
Ob ein externer Dienst oder ein Eigenbetrieb wirtschaftlicher ist, hängt von Volumen, interner Kompetenz, Datenkontrolle und Auslastung ab – bei schwankendem oder niedrigem Volumen spricht vieles für einen externen Dienst, bei hohem und stabilem Volumen kann Eigenbetrieb trotz höherer Fixkosten günstiger sein. Diese Abwägung verdient eine eigene, separate Prüfung.