Was die Studie untersucht
Die Autoren stellen ein Kostenmodell auf: einmalige Hardwarekosten plus monatliche Stromkosten gegen die API-Kosten für dieselbe Token-Menge. Angenommen wird ein Betrieb von acht Stunden am Tag und 20 Tagen im Monat bei 0,15 US-Dollar je Kilowattstunde. Die API-Kosten werden auf die Token-Menge normiert, die die lokale Hardware in dieser Zeit erzeugen kann. Daraus ergibt sich, nach wie vielen Monaten die eigene Hardware günstiger ist als die API.
Verglichen werden neun offene Modelle (unter anderem Qwen3, Llama-3.3-70B, gpt-oss-120B, GLM-4.5, Kimi-K2) mit sechs kommerziellen Modellen (GPT-5, Claude 4 Opus und Sonnet, Grok-4, Gemini 2.5 Pro). Die Autoren legen als Kriterium zugrunde, dass offene Modelle in Benchmarks innerhalb von 20 Prozent der Spitzenmodelle liegen sollen. Die Benchmark- und Preisdaten stammen von Artificial Analysis und sind Stand 2025.
Die Ergebnisse
Kleine Modelle bis etwa 30 Milliarden Parameter laufen auf einer einzelnen Grafikkarte (in der Studie eine RTX 5090 für rund 2.000 US-Dollar). Der Break-even liegt je nach Vergleich bei 0,3 bis 3 Monaten. Mittlere Modelle wie gpt-oss-120B, GLM-4.5-Air oder Llama-3.3-70B brauchen ein bis zwei A100-GPUs (15.000 bis 30.000 US-Dollar) und kommen auf 2,3 bis 34 Monate. Große Modelle wie Kimi-K2 mit Hardwarekosten von bis zu 240.000 US-Dollar liegen zwischen 4,3 und 69,3 Monaten.
Die Studie nennt drei Typen. Kleine Unternehmen mit weniger als 10 Millionen Token im Monat sollten mit kleinen Modellen einsteigen. Mittlere Unternehmen mit 10 bis 50 Millionen Token seien der Sweet Spot für mittlere Modelle, und besonders regulierte Branchen wie Gesundheit und Finanzen bevorzugten mittlere Setups. Große Unternehmen mit mehr als 50 Millionen Token pro Monat könnten große Modelle wirtschaftlich betreiben. Gegenüber sehr günstigen APIs wie Gemini 2.5 Pro sieht die Studie dort Break-even-Zeiten von 5 bis 9 Jahren, sodass nicht-finanzielle Gründe wie Datenschutz, Souveränität oder Anbieterbindung oft mehr Gewicht haben als der Preis.
Was die Studie nicht einrechnet
Drei Einschränkungen sind wichtig. Erstens zählt das Kostenmodell nur Hardware und Strom. Personal, Wartung, Updates und Ausfälle sind nicht enthalten, die Autoren nennen das als Aufgabe für künftige Forschung. Zweitens ist es ein Vorabdruck, und die Autoren schreiben selbst, dass die Schätzungen noch empirisch zu prüfen sind. Drittens bleiben die offenen Modelle bei Benchmarks teils hinter den Spitzenmodellen. Qwen3-30B erreicht laut der Studie 70,7 Prozent bei GPQA, GPT-5 85,4 Prozent. Ob das für Ihre Aufgabe reicht, müssen Sie selbst testen.
Hinzu kommt ein Punkt, den die Studie nicht hervorhebt, den wir aber aus ihrem Modell ableiten: Die Break-even-Zeiten gelten nur, wenn die Hardware ausgelastet ist. Eine einzelne Grafikkarte erzeugt laut der Studie rund 114 Millionen Token im Monat. Das ist weit mehr als das, was viele kleine Unternehmen verbrauchen. Die Studie nennt selbst unter 10 Millionen Token im Monat als Größenordnung für kleine Unternehmen.
Eine Beispielrechnung mit heutigen Preisen
Wir haben mit der Formel der Studie nachgerechnet, wie sich die Lage bei 10 Millionen Token im Monat darstellt. Annahmen: Hardware 2.000 US-Dollar wie in der Studie, ohne Strom und Betrieb, Verhältnis von Ein- zu Ausgabe-Token wie in der Studie (ein Drittel Eingabe, zwei Drittel Ausgabe). Als API-Vergleich nehmen wir die Preise, die VentureBeat im Oktober 2026 nennt: Claude Sonnet 5.5 mit 2 und 10 US-Dollar sowie Claude Opus 5.5 mit 4 und 20 US-Dollar pro Million Token. Gegenüber Sonnet ergeben sich rund 73 US-Dollar API-Kosten im Monat, also etwa 27 Monate bis zum Break-even. Gegenüber Opus sind es rund 147 US-Dollar im Monat und etwa 14 Monate. Bei 100 Millionen Token im Monat verkürzt sich beides etwa um den Faktor zehn.
Das ist eine Überschlagsrechnung. Sie ignoriert Strom, Personal und die Qualitätsunterschiede zwischen einem 30-Milliarden-Modell und einem Spitzenmodell. Die Vergleichspreise haben wir nicht bei den Anbietern geprüft. Sie zeigt aber, dass sich die Studienzahlen von 0,3 bis 3 Monaten in der Praxis nur bei hoher Auslastung und gegen teure APIs einstellen. Seit 2025 sind die Premium-Preise zudem gefallen: Claude Opus 4 kostete damals 15 und 75 US-Dollar, nach den genannten Angaben liegt Opus 5.5 heute bei 4 und 20 US-Dollar.
Kostenkontrolle: Planbarkeit statt nur Preis
Aus Sicht von IT-Verantwortlichen zählt neben dem Durchschnittspreis, wie vorhersehbar die Kosten sind. Eigene Hardware verursacht feste Kosten für Anschaffung und Strom, unabhängig davon, wie viele Anfragen kommen. API-Preise dagegen sind variabel und ändern sich. Google hat Gemini 4 Argon mit einem Einführungspreis von 2 und 10 US-Dollar gestartet, der laut Preisseite am 30. November endet und sich ab 1. Dezember auf 4 und 20 US-Dollar verdoppelt. Gemini 3.8 Flash verdoppelt sich zum 1. Januar 2027. Wer auf API-Preise baut, muss solche Sprünge einplanen, wer eigene Hardware betreibt, trägt dafür andere Risiken, etwa die Auslastung.
Datenschutz: Was lokal ändert und was nicht
Die Studie nennt lokalen Betrieb als Lösung für sensible Bereiche wie Gesundheit, Finanzen und Recht. Beim Betrieb im eigenen Haus gehen Anfragen und Dokumente nicht an einen externen Anbieter. Damit entfallen zum Beispiel Fragen zur Übermittlung in ein Drittland und zur Auftragsverarbeitung für die Inferenz. Unsere Einordnung: Die DSGVO-Pflichten verschwinden damit nicht, sie liegen allein beim Betreiber. Dazu gehören Zugriffsrechte, Protokollierung, Löschkonzepte und die Absicherung der Appliance. Ob eine konkrete Anwendung zulässig ist, hängt von den Daten und dem Zweck ab, das sollten Sie mit Ihrem Datenschutzbeauftragten klären.
Für wen sich eine eigene Appliance eher lohnt
- Wenn die Last konstant ist, etwa Dokumentenverarbeitung, interne Wissenssuche oder Kundenservice-Automatisierung mit vielen Anfragen. Sporadische Nutzung lastet die Hardware nicht aus.
- Wenn die Daten sensibel sind oder Branchenvorgaben die Datenhaltung begrenzen (laut Studie etwa Gesundheit, Finanzen, Recht).
- Wenn ein mittleres oder kleines Modell für die Aufgabe genügt. Für Aufgaben, die ein Spitzenmodell brauchen, ist die API oft die bessere Wahl.
- Wenn Planbarkeit wichtiger ist als der niedrigste Preis pro Token.
- Wenn jemand den Betrieb übernehmen kann, intern oder als Dienstleistung. Ohne Betrieb sind Hardware und Modell nur die halbe Lösung.
- Hybrid: sensible und regelmäßige Aufgaben lokal, seltene Spitzen und besonders anspruchsvolle Aufgaben über die API. Die Studie empfiehlt für mittlere Setups ausdrücklich diese Mischung.
Was offen bleibt
Die Studie ist ein Vorabdruck von 2025 mit Preisen und Modellen von damals. Seither sind neue offene und kommerzielle Modelle erschienen, und die API-Preise haben sich geändert. Die Kosten für Betrieb und Personal sind nicht modelliert, und die Hardwarepreise sind Annahmen der Autoren. Für eine Entscheidung brauchen Sie eine eigene Rechnung mit Ihrem Volumen, Ihrem Modell und Ihren Betriebskosten.