Build or Buy: Wann sich eine eigene KI-Lösung lohnt - und wann nicht
Kurz gesagt
Bei Enterprise- und API-Tarifen der großen Anbieter werden Eingaben standardmäßig nicht für das Modelltraining genutzt. Verbindlich abgesichert wird das über den Vertrag – bei personenbezogenen Daten ist ein Auftragsverarbeitungsvertrag (AVV) Pflicht. Ohne AVV und ohne Enterprise-Tarif bleibt die Zusicherung eine reine AGB-Aussage, keine belastbare rechtliche Grundlage.
Warum die Build-vs-Buy-Frage falsch gestellt wird
Die Frage lautet nicht: Sollen wir ein eigenes KI-Modell trainieren? Die Frage lautet: Was soll die KI-Lösung im Unternehmen leisten – und welcher Aufbauweg bringt das am schnellsten und mit dem geringsten Risiko? Das ist ein entscheidender Unterschied, der in Projektgesprächen oft übersehen wird. Ambitionen werden mit Anforderungen verwechselt, und aus einem klar lösbaren Problem wird ein mehrmonatiges Forschungsprojekt.
Eigene Modelle trainieren bedeutet: Datenwissenschaftler einstellen oder extern beauftragen, große Mengen bereinigter Trainingsdaten bereitstellen, GPU-Infrastruktur finanzieren und das Modell nach dem Training kontinuierlich überwachen und nachtrainieren. Der Aufwand beginnt realistisch bei rund 50.000 Euro für ein Pilotprojekt – ohne Garantie auf nutzbare Ergebnisse. Für die meisten Mittelständler ist das weder nötig noch wirtschaftlich.
Fertige KI-Modelle über APIs (Claude, ChatGPT, Gemini) bieten Qualität auf Weltklasse-Niveau, sind in Tagen integrierbar und werden nutzungsbasiert abgerechnet. Für die meisten Anwendungsfälle im Mittelstand – Textgenerierung, Klassifizierung, Zusammenfassung, Analyse – liefern sie ausreichende oder überlegene Ergebnisse im Vergleich zu einem eigenen Modell.
Drei Wege – und wann sie passen
- Build (eigenes Modell): nur sinnvoll bei zwingender Datenkontrolle, einzigartigem Wettbewerbsvorteil und vorhandenem Team
- Buy (fertige API oder SaaS): richtig für rund 90 Prozent aller Anwendungsfälle – schnell, erprobt, nutzungsbasiert abgerechnet
- Hybrid (RAG): fertiges Modell plus eigene Unternehmensdaten als Kontext – bester Kompromiss ohne Trainingsaufwand
- Fine-Tuning: fertiges Modell auf eigenen Beispielen anpassen – sinnvoll bei sehr spezifischem Ton oder Fachvokabular
- On-Premise-Modelle: lokal auf eigenem Server (etwa Ollama mit LLaMA) für höchste Datenschutzanforderungen
- Agentic Systems: mehrere KI-Komponenten orchestriert – erst sinnvoll, wenn die Grundnutzung etabliert ist
Retrieval-Augmented Generation (RAG) bedeutet konkret: Ein fertiges KI-Modell wird mit einem Wissensspeicher aus unternehmenseigenen Dokumenten kombiniert. Fragt ein Mitarbeiter die KI etwas, sucht das System zuerst in den eigenen Dokumenten, reichert die Anfrage damit an und gibt eine fundierte Antwort – ohne das Modell selbst zu trainieren. Aufbau in zwei bis vier Wochen, Kosten im niedrigen vierstelligen Bereich, statt eines Jahres Modelltraining.
Das Over-Engineering-Risiko
Regelmäßig starten Projekte mit dem Ziel, ein eigenes Sprachmodell zu trainieren, und stellen nach sechs Monaten und erheblichem Budget fest, dass eine einfache RAG-Lösung auf Basis von Claude oder ChatGPT das gleiche Ergebnis in zwei Wochen geliefert hätte. Ambition ist gut. Fehlallokiertes Budget ist vermeidbar – wenn die Anforderungen sauber geklärt werden, bevor die Architektur gewählt wird. Die beste KI-Strategie ist die, die morgen früh produktiv ist, nicht die, die theoretisch am leistungsfähigsten wäre.
KI-Strategie in fünf Schritten entwickeln
1. Use Case konkret formulieren: „KI für unser Unternehmen nutzen" ist kein Use Case. „Eingehende Kundenanfragen automatisch klassifizieren und dem richtigen Ansprechpartner zuweisen" ist einer. Je konkreter der Use Case, desto einfacher die Technologieentscheidung. 2. Datenlage prüfen: Für RAG-Ansätze reichen strukturierte Dokumente wie PDFs, Word-Dateien oder Datenbankeinträge. Für Fine-Tuning braucht man Beispieldaten im dreistelligen bis vierstelligen Bereich. Für eigene Modelle sind es Millionen von Datenpunkten. 3. Build-or-Buy entscheiden: Mit klarem Use Case und bekannter Datenlage ist die Entscheidung meist eindeutig – fertiges Modell für Standardaufgaben, RAG für unternehmensinternes Wissen, Fine-Tuning für sehr spezifische Ausgabeformate. 4. Piloten bauen und messen: Ein Pilot dauert zwei bis vier Wochen und zeigt, ob der Ansatz funktioniert, bevor größere Investitionen fließen. Erfolgskriterien vorher definieren: Genauigkeit, Zeitersparnis, Kosten pro Vorgang. 5. Skalieren und weiterentwickeln: Ein erfolgreicher Pilot wird schrittweise ausgerollt, nicht auf einen Schlag. Nutzer einbinden, Feedback einholen, Fehler beheben.
Datenschutz bei fertigen KI-Modellen
Wer KI-APIs extern nutzt, schickt Daten an einen Server, häufig in den USA. Das ist für viele Anwendungsfälle unproblematisch, solange keine personenbezogenen Daten übertragen werden. Sobald Kundennamen, E-Mail-Adressen oder Vertragsinhalte Teil des Prompts sind, greifen DSGVO-Anforderungen: Auftragsverarbeitungsvertrag (AVV), Prüfung des Drittlandtransfers, technische und organisatorische Maßnahmen.
Die großen Anbieter bieten Enterprise-Tarife an, die einen AVV einschließen und zusätzlich zusichern, dass Eingaben nicht für das Modelltraining genutzt werden. Das löst einen Großteil der datenschutzrechtlichen Fragen. Für Branchen mit besonders sensiblen Daten – Gesundheit, Recht, Finanzen – kann trotzdem eine On-Premise-Lösung sinnvoller sein, auch wenn die Modellqualität geringer ausfällt.