Ab wann lohnt sich ein lokales Sprachmodell gegenüber einer API?

Was zählt als fertiger Fall?

Im fiktiven Beispiel macht die Redaktion aus Material, Maßen und Pflegehinweisen einen kurzen Produkttext. Er ist fertig, wenn eine Fachkraft alle Angaben mit dem Datenblatt abgeglichen und den Text freigegeben hat. Muss sie eine erfundene Waschtemperatur korrigieren oder den Absatz neu schreiben, gehört diese Zeit zum Fall. Drei Versuche für denselben Artikel ergeben einen fertigen Text.

Ein lokal betriebenes großes Sprachmodell (LLM) erzeugt den Entwurf auf einem Rechner des Betriebs. Die Redaktion kann bestimmen, wann sie die Modellversion wechselt. Dafür muss jemand Updates testen, Zugriffe verwalten und bei einem Ausfall den Betrieb wiederherstellen. Für diesen Modellvergleich zählt auch die Arbeit nach der Einrichtung. Bei einer externen API übernimmt der Anbieter den Modellbetrieb. Die Redaktion betreut weiterhin die Anbindung und muss klären, welche Daten sie dorthin schicken darf. Prüfen Sie bei beiden Varianten, wohin Anwendung und Fehlerprotokolle Inhalte übertragen.

Eine Monatsrechnung mit offengelegten Annahmen

Alle folgenden Beträge sind frei gewählte Rechenannahmen vom November 2026. Sie sind weder Angebote noch Messwerte. Für den Vergleich verteilt die Redaktion einmalige Ausgaben auf 36 Monate. Für den Kauf braucht sie das Geld schon am Anfang.

Lokal setzt sie 2.880 Euro für den Rechner und 720 Euro für die Einrichtung an. Das ergibt zusammen 100 Euro pro Monat. Hinzu kommen zwei Stunden technische Betreuung zu je 60 Euro und 20 Euro für Leerlaufstrom. Zusammen sind das 240 Euro pro Monat. Für den zusätzlichen Strom unter Last plant sie 0,02 Euro pro fertigem Text ein.

Für die API setzt sie 60 Euro monatlich für anteilige Einrichtung und Betreuung sowie 0,20 Euro Verbrauch pro fertigem Text an. Darin stecken auch wiederholte Aufrufe. Für ein echtes Angebot lässt sich dieser Betrag aus abgerechneter Eingabe- und Ausgabetextmenge sowie dem jeweiligen Tarif bestimmen. Gleiche Kosten für die Redaktion auf beiden Seiten kürzen sich im Vergleich heraus. Zusätzliche Fachzeit zählt im nächsten Schritt.

Wo der Kostenvorteil beginnt und wann er verschwindet

Der eigene Rechner kostet jeden Monat 180 Euro mehr an festen Ausgaben, spart unter den Annahmen aber 0,18 Euro pro Text. Bei 1.000 fertigen Texten sind beide Varianten gleich teuer: je 260 Euro vor der gemeinsamen Textprüfung. Bei 500 Texten kostet der lokale Betrieb 250 Euro, die API 160 Euro. Bei 1.500 Texten liegen die Beträge bei 270 und 360 Euro. Dann hätte die Redaktion mit dem eigenen Rechner 90 Euro Spielraum im Monat.

Was bedeuten diese 90 Euro für die Person, die die Texte prüft? Bei einem internen Stundensatz von 60 Euro entsprechen sie 90 Minuten Fachzeit. Verteilt auf 1.500 Texte sind das 3,6 Sekunden pro Text. Benötigt beispielsweise jeder zehnte lokale Entwurf eine zusätzliche Minute für die Korrektur eines Pflegehinweises, kommen 150 Minuten zusammen. Der lokale Betrieb wäre damit trotz der höheren Auslastung um 60 Euro im Monat teurer. Dieselbe Rechnung gilt umgekehrt, wenn die API-Entwürfe mehr Nacharbeit brauchen.

Passen die Aufträge auch am stärksten Tag auf den Rechner?

Ob die Texte gleichmäßig über den Monat verteilt eintreffen oder als Katalogpaket kurz vor Druckschluss, macht für den Kauf einen Unterschied. Ein Rechner kann den Monatsbedarf rechnerisch decken und am Freitagnachmittag trotzdem eine zu lange Warteschlange haben. Lange Datenblätter und mehrere gleichzeitige Anfragen können zusätzlichen Speicher beanspruchen. Eine platzsparendere Modellfassung ist eine Option, deren Textqualität die Redaktion erneut prüfen muss.

Bitten Sie vor einem Kauf um einen Probelauf auf der vorgesehenen Hardware mit genau der Modellfassung, die später eingesetzt werden soll. Halten Sie Modellversion, Nutzungsbedingungen und verfügbare Speicherausstattung fest. Für einen späteren KI-Anbieterwechsel sollte derselbe Testsatz verfügbar bleiben. Prüfen Sie auch beim externen Angebot, wie viele gleichzeitige Aufträge der Tarif zulässt. Falls für die Spitze ein zweites Gerät, ein anderer Tarif oder eine manuelle Schicht nötig wird, gehören deren Kosten in die Rechnung.

Ein Einkaufstest mit einem klaren Ende

Reservieren Sie mit IT und Fachteam einen halben Tag. Wählen Sie einen kleinen Satz freigegebener oder fiktiver Datenblätter aus, darunter einen langen Text, fehlende Pflegeangaben und ähnliche Produkte mit unterschiedlichen Maßen. Vereinbaren Sie vorher, welche Fehler eine Freigabe ausschließen und bis wann der letzte Text fertig sein muss.

• Dieselben Blätter einzeln und als Auftragspaket auf beiden Systemen bearbeiten. Die Fachkraft erhält die Entwürfe ohne Herkunftskennzeichen und erfasst Korrekturminuten, Wiederholungen und vollständig manuell erledigte Fälle.
• API-Verbrauch aus der Abrechnung übernehmen. Am lokalen Testgerät Strom im Leerlauf und während des Pakets messen. Für die Hochrechnung Grundlast und zusätzlichen Verbrauch getrennt ansetzen. Einrichtungsangebot, Vertretung und Wartungszeit mit der zuständigen Person abgleichen.
• Mit den eigenen Werten einen ruhigen Monat und die Katalogspitze durchrechnen. Kaufen kommt infrage, wenn die lokale Variante die Qualitäts- und Terminanforderungen erfüllt und ihr Kostenvorteil auch bei plausibler Mehrarbeit trägt. Kippt die Entscheidung schon durch einen einzigen schwierigen Fall im kleinen Test, sammeln Sie gezielt weitere solcher Fälle, bevor Sie Geld binden.