Start / Themen / Digitalisierung & KI / Antwort
Digitalisierung & KI

Was ein KI-Chatbot, ein RAG-System oder ein KI-Agent im Monat wirklich kosten

Kurz gesagt

Bei realistischen Beispielrechnungen liegt der reine Modellpreis fast immer nur bei wenigen Prozent der monatlichen Gesamtkosten — den größten Teil tragen Plattform, Datenpflege, Beobachtung und vor allem Personal. Ein kleiner FAQ-Assistent kann bei geringem Volumen im niedrigen dreistelligen Bereich pro Monat liegen, ein Kundenservice-System mit CRM-Anbindung eher im vierstelligen Bereich — die genaue Höhe hängt stark von Erfolgsquote, Reviewaufwand und Integrationstiefe ab.

Warum diese Beispiele Rechenbeispiele sind, keine Marktangebote

Die folgenden Größenordnungen stammen aus dokumentierten Modellrechnungen mit transparent ausgewiesenen Annahmen zu Volumen, Tokenmenge, Erfolgsquote und Personalstunden — nicht aus Angeboten einzelner Anbieter. Sie zeigen vor allem eines zuverlässig: das Verhältnis zwischen Modellkosten und den übrigen Kostenblöcken. Die absoluten Beträge in Euro verschieben sich je nach Wechselkurs, Vertragskonditionen und Volumen im eigenen Unternehmen — das grundsätzliche Muster bleibt aber stabil.

Kleine und mittlere Anwendungen im Überblick

  • Kleiner FAQ-Assistent für eine Unternehmenswebsite (rund 10.000 Anfragen monatlich, kurze Antworten): Modellkosten machen in einer solchen Rechnung unter einem Prozent der Gesamtkosten aus — den weit größeren Teil tragen Hosting, Beobachtung und Betriebsstunden.
  • Kundenservice-Assistent mit CRM-Übergabe (rund 100.000 Vorgänge monatlich, mehrere Integrationen): Auch hier bleibt der direkte Modellanteil im niedrigen einstelligen Prozentbereich der Gesamtkosten; Integrationsplattform, Beobachtung und Betriebsstunden dominieren.
  • Interner Wissensassistent mit umfangreichem RAG (langer Retrievalkontext, hohe Qualitätsanforderung): Hier verschiebt sich das Bild leicht zugunsten des Modellanteils, weil längere Kontexte mehr Token verbrauchen — Ingestion, Vektorspeicher und Datenpflege bleiben aber die größeren Blöcke.
  • Nächtliche E-Mail-Klassifikation im Batch (hohe Menge, kurze strukturierte Ausgabe): Bei dieser Art Aufgabe sind die Stückkosten je erfolgreicher Klassifikation extrem niedrig, weil Batch-Rabatte und ein günstiges Modell zusammenkommen.

Wo Personal die Rechnung dominiert

Zwei Beispiele zeigen besonders deutlich, wie stark menschliche Prüfung die Gesamtkosten bestimmen kann:

  • Marketingtexte mit verpflichtender Redaktionsfreigabe: Bei einer angenommenen Prüfzeit von rund zwölf Minuten pro Text macht die redaktionelle Freigabe in einer solchen Rechnung über 90 Prozent der Gesamtkosten aus — der Modellanteil liegt im Promillebereich.
  • Vertragsprüfung mit hohem Schadenspotenzial: Wird jede KI-gestützte Vorprüfung zusätzlich von einer juristischen Fachkraft freigegeben, kann diese Freigabe praktisch die gesamte Rechnung bestimmen. Der Modellpreis ist in einem solchen Fall wirtschaftlich nahezu irrelevant — KI unterstützt hier die Vorarbeit, ersetzt aber nicht die verantwortliche fachliche Prüfung.

Die Lehre daraus: Automatisierungsquote ist nicht gleich Personaleinsparung. Wo eine Aufgabe rechtlich, finanziell oder reputationskritisch ist, bleibt der Prüfaufwand die größte Kostenposition — und das ist in vielen Fällen auch richtig so, weil eine verhinderte Fehlentscheidung teurer wiegt als die eingesparte Prüfzeit.

API versus Self-hosting: ein dokumentierter Vergleich

Ein Rechenbeispiel für eine stabile Monatslast von acht Millionen erfolgreichen Antworten stellt API-Betrieb und Self-hosting unter denselben Personal- und Qualitätsannahmen gegenüber: Der API-Ansatz kam in dieser konkreten Annahme auf niedrigere Vollkosten je erfolgreicher Einheit als der Eigenbetrieb mit eigenen GPU-Servern. Wichtig ist die Einschränkung, die auch das Rechenbeispiel selbst nennt: Das ist kein universeller Break-even, sondern das Ergebnis der jeweils gewählten Personal- und Kapazitätsannahmen. Bei anderer Auslastung, anderem Team oder anderer Hardware-Generation kann das Ergebnis anders ausfallen. Vor einer Self-hosting-Entscheidung gehört deshalb immer ein eigener Lasttest mit den eigenen Anforderungen an Kontextlänge und Parallelität.

Große und regulierte Systeme

Bei einem mehrmandantenfähigen SaaS-Angebot mit mehreren Hundert Unternehmenskunden verschiebt sich das Bild noch einmal: Die mandantenfähige Plattform, Datenbanken und Support-Personal bilden hier den weit überwiegenden Kostenblock, während der Modellpreis pro erfolgreicher Einheit sehr klein wird. Bei einem regulierten Enterprise-Betrieb mit zwei Regionen zur Ausfallsicherheit steigt der Modellanteil zwar spürbar, bleibt aber deutlich hinter Governance-, Verfügbarkeits- und Compliance-Kosten zurück, die durch Audit, Dual-Region-Infrastruktur und Compliance-Personal entstehen.

Was das für Ihre eigene Kalkulation bedeutet

Jede dieser Rechnungen muss gegen mindestens drei Abweichungen getestet werden: ein um rund 30 Prozent höheres oder niedrigeres Volumen, eine veränderte Erfolgsquote und eine Preisänderung des Anbieters. Bei Self-hosting kommen Auslastung und Personalverfügbarkeit als erste Prüfpunkte hinzu. Eine seriöse Budgetplanung arbeitet deshalb nicht mit einem einzelnen Punktwert, sondern mit einer Bandbreite aus Basis-, Belastungs- und Stressszenario.

Häufige Fragen

Wie viel Prozent der KI-Kosten entfallen typischerweise auf das Modell selbst?
In den meisten dokumentierten Rechenbeispielen liegt der Modellanteil im einstelligen Prozentbereich der Gesamtkosten; bei Aufgaben mit hohem Prüfaufwand kann er sogar im Promillebereich liegen.
Ist eine KI-Anwendung mit viel manueller Prüfung trotzdem wirtschaftlich?
Das hängt vom Vergleich mit der Alternative ohne KI ab; wenn die KI wertvolle Vorarbeit leistet und Fehler reduziert, kann sich der Einsatz trotz hoher Prüfkosten lohnen.
Ist Self-hosting günstiger als eine API, wenn das Volumen hoch genug ist?
Nicht automatisch; das hängt stark von Auslastung, Personalverfügbarkeit und der gewählten Serving-Technik ab und muss mit eigenen Lasttests geprüft werden.
Wie genau sollte eine KI-Kostenschätzung vor dem Projektstart sein?
Eine Bandbreite mit Basis-, Belastungs- und Stressszenario ist belastbarer als ein einzelner Monatsbetrag, weil Tokenlänge, Erfolgsquote und Wachstum vor dem Start unsicher sind.