Open Source KI selbst hosten: Was es wirklich kostet, wenn die Lizenz null sagt

Eine Open-Source-KI-Plattform selbst zu hosten kostet weit mehr als null. Die Lizenz mag kostenlos sein, das Deployment ist trotzdem ein verteiltes System: ein Dutzend Container, zwei Modellserver für maschinelles Lernen, ein Suchindex, eine Datenbank, ein Cache und ein Objektspeicher, die Architektur erklären wir in Enterprise Search vs. KI-Context-Layer, und all das muss jemand dimensionieren, absichern, patchen und um zwei Uhr nachts wiederherstellen.

Wir wollten eine echte Zahl statt einer Meinung. Also haben wir am 4. August 2026 einen führenden Open-Source-KI-Stack auf dem dokumentierten Weg mit Standardeinstellungen ausgerollt und gemessen, was passiert. Zwölf Dienste. Vierundzwanzig Minuten Installation. Und der Suchindex wurde zehnmal vom Betriebssystem abgeschossen, bis wir abgebrochen haben, weil schlicht nicht genug Speicher übrig war, um ihn zu starten.

Keiner der beteiligten Anbieter veröffentlicht Mindest-Systemanforderungen. Nicht im Quickstart, nicht in der README, nicht als Ressourcengrenze im Deployment-File. Dein IT-Team dimensioniert das nach Gefühl, und genau in diesem Gefühl versteckt sich der echte Preis.

Wir haben Onyx genommen, die glaubwürdigste Open-Source-Alternative zu Glean, mit 31.400 GitHub-Sternen und Netflix sowie Thales Group im Produktivbetrieb, ausführlich getestet hier. Wir sind exakt dem dokumentierten Weg gefolgt: Repo klonen, Umgebungsvorlage kopieren, den Standard-Compose-Befehl ausführen. Kein Tuning, keine Tricks, nichts, was eine evaluierende Person nicht an einem Dienstagnachmittag genauso täte.

Der Host hatte 12 CPU-Kerne und 36 GB RAM, also deutlich mehr, als ein kleines Unternehmen bereitstellen würde. Die Container-Laufzeit lief allerdings mit ihrer Standardzuteilung von 3,83 GB, und die hat so gut wie jeder, bis zu dem Moment, in dem er merkt, dass er mehr braucht.

Zehn der zwölf Container liefen sauber hoch. OpenSearch, also ausgerechnet die Komponente, die deine Dokumente indexiert und durchsucht, startete kein einziges Mal. Der Kernel-OOM-Killer beendete sie mit Exit-Code 137, sie startete neu, wurde wieder beendet, zehnmal hintereinander.

Erstens: die Lizenz, von der du nicht wusstest, dass du sie brauchst. Wie unser Lizenz-Audit von sieben Open-Source-KI-Tools gezeigt hat, stecken Single Sign-on, rollenbasierte Zugriffssteuerung und Berechtigungssynchronisation bei Onyx, Flowise und n8n gleichermaßen hinter einer kommerziellen Lizenz. Sobald du irgendetwas mit Personenbezug indexierst, verlangt Art. 32 DSGVO diese Funktionen faktisch, die kostenlose Stufe ist also eine Evaluierung und kein Deployment.

Zweitens: die Infrastruktur, die du überdimensionieren musst. Ein Dutzend Dienste mit zwei Modellservern und einem Suchcluster ist keine kleine virtuelle Maschine. Weil kein Anbieter Dimensionierungshinweise veröffentlicht, entdecken die meisten Teams den echten Bedarf so wie wir: indem sie zusehen, wie etwas stirbt.

Drittens: die Engineering-Zeit, die beides in den Schatten stellt. Patches, Versionssprünge über Breaking Changes, Zertifikatserneuerung, Backup und Restore sowie Störungsbehebung, wenn der Index mitten im Monatsabschluss umfällt. Dieser Posten taucht in keiner Vergleichstabelle auf, weil er in Stunden deiner eigenen Leute bezahlt wird statt auf einer Rechnung.

Nichts davon heißt, dass Self-Hosting ein Fehler ist. Es heißt, dass es eine Engineering-Entscheidung ist und keine Sparentscheidung, und in einem Szenario gewinnt es klar: wenn Daten das Haus physisch nicht verlassen dürfen.

Für Verteidigung, Gesundheitswesen, betriebsratssensible Umgebungen oder jede Air-Gap-Anforderung ist Self-Hosting kein günstigerer Weg, Software zu kaufen. Es ist der einzige Weg, die Anforderung überhaupt zu erfüllen. Auf einem eigenen Server in Frankfurt mit lokalem Modell gibt es keinen internationalen Transfer zu bewerten, keine Subunternehmerkette zu prüfen und keinen Angemessenheitsbeschluss zu beobachten. Das ist stärker als jede Auftragsverarbeitungsvereinbarung, auch stärker als unsere.

Was Self-Hosting nicht ist: ein Weg, nichts zu bezahlen. Du tauschst Lizenzgebühren gegen ein Betriebsbudget, und bei den meisten Unternehmen unter etwa 200 Mitarbeitenden ist das Betriebsbudget größer.

Das gemessene Ergebnis ist kein Argument gegen Open Source. Es ist ein Argument gegen den Satz und es ist kostenlos, den wir bis zu den Lizenzen selbst zurückverfolgt haben, der in fast jedem Vergleichsartikel steht und nur für die Lizenzdatei stimmt.

Ein verteiltes System aus zwölf Diensten, das ohne Mindest-Systemanforderungen ausgeliefert wird, dessen Zugriffssteuerung kommerziell lizenziert ist und dessen Suchindex bei Standardzuteilung leise stirbt, ist ernsthafte Infrastruktur. Behandle es entsprechend. Plane eine Engineering-Stelle ein, dimensioniere großzügig, kaufe die Lizenz, die du wirklich brauchst, und es wird dir gute Dienste leisten.

Behandle es wie einen kostenlosen Download, und du erfährst die Kosten auf demselben Weg wie wir, nur eben im Produktivbetrieb.

Die Installation ist einmalig. Die Wartung ist für immer, und sie entscheidet, ob Self-Hosting achtzehn Monate später noch nach einer guten Idee aussieht.

Jeder dieser zwölf Dienste hat einen eigenen Release-Rhythmus und eigene Sicherheitsmeldungen. PostgreSQL, Redis, OpenSearch, MinIO und nginx sind weit verbreitete Infrastruktur mit stetigem CVE-Strom. Die Anwendungscontainer bewegen sich noch schneller. Jemand muss all das verfolgen, Upgrades gegen Breaking Changes testen und zurückrollen, wenn ein Update den Index mitten am Arbeitstag lahmlegt.

Deshalb lautet der ehrliche Vergleich nicht Lizenz gegen Lizenz. Er lautet ein dauerhafter Anteil einer Engineering-Stelle gegen ein Abo. Bei Vollkosten von rund 500 bis 800 Euro pro Engineering-Tag sind zwei Tage im Monat 12.000 bis 19.200 Euro im Jahr, bevor ein einziges Dokument indexiert wurde.