Die Token-Preise der drei großen Anbieter liegen je nach Modellklasse grob zwischen wenigen Cent und mehreren Euro pro Million Token – die Spanne ist also größer als der Unterschied zwischen den Anbietern selbst. GPT, Claude und Gemini haben sich in der Preisgestaltung stark angenähert: Entscheidend ist weniger die Marke als die Modellklasse (klein/groß) und das Verhältnis von Input zu Output. Wer die aktuellen Listenpreise vergleicht, sollte immer Input- und Output-Preise getrennt betrachten und die Preise pro Million Token als gemeinsame Einheit nutzen.
Warum Token-Preise den Unterschied machen
Ein Token ist die kleinste Verarbeitungseinheit eines Sprachmodells: ein Wort, ein Wortteil oder ein Satzzeichen. Als Faustregel gilt für deutsche und englische Texte, dass ein Token im Schnitt etwa drei bis vier Zeichen umfasst – 1.000 Token entsprechen also ungefähr 600 bis 750 Wörtern. Abgerechnet wird nicht pro Anfrage, sondern pro verarbeitetem Token, und zwar getrennt nach Input (was du sendest: Prompt, Kontext, Dokumente) und Output (was das Modell generiert).
Warum das den Unterschied macht: Die Preise werden pro Million Token angegeben, und zwischen einem kleinen und einem großen Modell desselben Anbieters liegt oft ein Faktor von 10 bis über 100. Ein Chatbot, der täglich tausende Anfragen mit langen Dokumenten verarbeitet, kostet mit dem Flaggschiff-Modell schnell ein Vielfaches dessen, was ein kleineres Modell verursachen würde. Zwei Stellschrauben bestimmen die Rechnung: die Wahl des Modells und die Länge von Input und Output. Wer beides bewusst steuert, beeinflusst seine Kosten stärker als die Wahl des Anbieters.
Hinzu kommt: Viele Kosten entstehen unsichtbar. Lange System-Prompts, mitgeschickte Gesprächsverläufe und wiederholte Kontext-Dokumente werden bei jeder Anfrage erneut als Input berechnet. Ohne ein Gefühl für Token-Mengen bleibt unklar, warum die Monatsrechnung höher ausfällt als erwartet.
GPT, Claude und Gemini im Preisvergleich
Alle drei Anbieter staffeln ihr Angebot in Modellklassen: ein günstiges, schnelles Modell für einfache Aufgaben, ein mittleres und ein Flaggschiff für anspruchsvolle Reasoning-Aufgaben. Die genauen Listenpreise ändern sich häufig, daher hier die Struktur statt konkreter Zahlen: Kleine Modelle liegen typischerweise im Bereich von Bruchteilen eines US-Dollars pro Million Input-Token, Flaggschiff-Modelle im ein- bis zweistelligen Dollar-Bereich pro Million Input-Token – das ist eine grobe Orientierung, keine belastbare Preisangabe. Verbindlich sind immer die aktuellen Preislisten der Anbieter.
Die wichtigsten Muster im Vergleich: Bei allen drei Anbietern sind Output-Token deutlich teurer als Input-Token, häufig um den Faktor drei bis fünf. GPT und Gemini bieten zusätzlich stark vergünstigte „Batch"- oder Offline-Verarbeitung, bei der Anfragen asynchron abgearbeitet werden und je nach Anbieter etwa die Hälfte des regulären Preises kosten (Schätzung, da Konditionen variieren). Claude und Gemini wiederum bepreisen Prompt-Caching – also das Wiederverwenden bereits verarbeiteten Kontexts – mit einem Rabatt auf die gecachten Input-Token, bei Gemini teils mit einem Aufpreis für das Speichern des Caches.
Praktisch heißt das: Ein pauschales „Anbieter X ist günstiger" stimmt selten. Für einen kurzen Chat mit vielen Output-Token schlägt das Output-Pricing durch, für einen RAG-Bot (Retrieval-Augmented Generation: das Modell bekommt bei jeder Anfrage dieselben Referenzdokumente mitgeschickt) dominiert der Input-Anteil. Vergleiche daher immer mit deinem eigenen Nutzungsprofil: Wie lang sind Prompts und Antworten, wie viel Kontext wird wiederholt, wie viele Anfragen fallen pro Monat an?
Input, Output und der KV-Cache als Kostenfaktor
Jede API-Abrechnung beruht auf Tokens – kleinen Textbausteinen, in die ein Modell Eingaben und Ausgaben zerlegt. Grob gilt: Ein Token entspricht im Deutschen etwa 3–4 Zeichen oder rund einem halben bis ganzen Wort. Abgerechnet wird getrennt nach Input-Tokens (was du sendest: Prompt, Kontext, Dokumente) und Output-Tokens (was das Modell generiert).
Warum ist Output teurer? Bei der Generierung entsteht jeder Output-Token einzeln nacheinander, und für jeden dieser Schritte muss das Modell den gesamten bisherigen Kontext erneut verarbeiten. Input lässt sich dagegen in einem Durchgang parallel berechnen. Deshalb liegen Output-Preise typischerweise beim Drei- bis Fünffachen der Input-Preise – als Faustregel, nicht als feste Zahl.
Der KV-Cache (Key-Value-Cache) ist ein Zwischenspeicher: Das Modell merkt sich die bereits berechneten Zwischenzustände (Keys und Values der Attention-Mechanismen) für Tokens, die es schon gesehen hat, statt sie bei jedem neuen Token neu zu berechnen. Das senkt Rechenzeit und damit indirekt Kosten. Wichtig für dich: Viele Anbieter berechnen das Schreiben in den Cache günstiger als normale Input-Tokens, das Lesen aus dem Cache noch günstiger. Wer denselben langen System-Prompt oder dasselbe Dokument mehrfach nutzt, profitiert also deutlich – vorausgesetzt, der Prompt-Aufbau bleibt identisch und steht am Anfang.
Rechenbeispiel (Annahmen, keine echten Preise): Angenommen, ein Modell kostet 2 € pro 1 Mio. Input-Tokens und 8 € pro 1 Mio. Output-Tokens. Eine Anfrage hat 1.500 Input- und 500 Output-Tokens, und du stellst sie 20.000-mal im Monat.
Input: 1.500 × 20.000 = 30.000.000 Tokens = 30 Mio.
30 Mio. × 2 €/Mio. = 60 €
Output: 500 × 20.000 = 10.000.000 Tokens = 10 Mio.
10 Mio. × 8 €/Mio. = 80 €
Gesamt: 60 € + 80 € = 140 € pro Monat
Schon hier zeigt sich: Obwohl nur ein Viertel der Tokens Output sind, verursacht Output mehr als die Hälfte der Kosten. Kürzere Antworten (z. B. „Antworte in maximal drei Sätzen") sind oft der günstigste Hebel.
Mit dem LLM-API-Kostenrechner sparen
Ein Kostenrechner macht die obige Rechnung systematisch. So gehst du vor:
Checkliste für die Kostenschätzung:
- Durchschnittliche Input- und Output-Tokens pro Anfrage messen (nicht schätzen – die API gibt Token-Zahlen zurück)
- Anfragen pro Tag × 30 für die Monatsmenge
- Aktuelle Preise pro Mio. Tokens je Modell eintragen, Input und Output getrennt
- Cache-Trefferquote schätzen, falls du wiederkehrende Prompts hast
- Puffer von 20–30 % für Retries, längere Prompts und Testläufe einplanen
Formel:
Monatskosten = (Input-Tokens × Anfragen × Input-Preis)
+ (Output-Tokens × Anfragen × Output-Preis)
Praktische Sparhebel:
- Günstigeres Modell für einfache Aufgaben (Klassifikation, Extraktion), starkes Modell nur wo nötig – das ist meist der größte Hebel
- Prompt kürzen: unnötigen Kontext und Beispiele entfernen
- Output begrenzen über maximale Token-Zahl und klare Anweisungen
- Lange, wiederkehrende Inhalte cache-freundlich an den Prompt-Anfang stellen
- Batch-Verarbeitung nutzen, wo Anbieter Rabatte dafür gewähren (Preise prüfen, nicht annehmen)
Bevor du dich für ein Modell entscheidest, rechne zwei bis drei Kandidaten mit deinen eigenen Token-Zahlen durch – die Preistabellen allein sagen wenig über deine realen Monatskosten.
Häufig gestellte Fragen
Was kostet ein Token bei GPT, Claude und Gemini?
Ein Token ist die kleinste Texteinheit, die ein Modell verarbeitet – grob ein Wortteil, im Deutschen oft 3 bis 4 Zeichen. Die Preise werden pro eine Million Tokens angegeben und unterscheiden sich nach Anbieter, Modellgröße sowie Input und Output. Als grobe Orientierung (Stand meines Wissens, Preise ändern sich häufig): Bei den kleineren Modellen liegen die Input-Preise im Bereich von wenigen Cent bis etwa einer US-Dollar pro Million Tokens, bei den großen Flaggschiff-Modellen eher im ein- bis zweistelligen Dollar-Bereich für Input und teils deutlich mehr für Output. Konkrete Zahlen sollte man immer in der aktuellen Preisliste des Anbieters prüfen, da sie regelmäßig angepasst werden.
Warum sind Output-Tokens teurer als Input-Tokens?
Input-Tokens werden in einem einzigen Durchlauf parallel verarbeitet, während Output-Tokens einzeln nacheinander generiert werden – jedes neue Token braucht einen eigenen Vorwärtspass durch das Modell. Dieser sequenzielle Prozess ist rechenintensiver und treibt die Kosten. Deshalb kostet Output typischerweise etwa drei- bis fünfmal so viel wie Input, je nach Modell und Anbieter. Für die Praxis heißt das: Lange Antworten sind teurer als lange Fragen.
Wie senkt der KV-Cache die Inferenzkosten?
Der KV-Cache (Key-Value-Cache) speichert Zwischenergebnisse bereits verarbeiteter Tokens, damit das Modell sie bei der nächsten Token-Generierung nicht erneut berechnen muss. Das beschleunigt die Inferenz und senkt den Rechenaufwand – besonders bei langen Kontexten und mehrstufigen Dialogen. Viele Anbieter geben diesen Vorteil als Rabatt auf gecachte Input-Tokens weiter, oft im Bereich von 50 bis 90 Prozent gegenüber dem normalen Input-Preis (Schätzung, abhängig vom Anbieter). Voraussetzung ist, dass sich der Anfang des Prompts zwischen Anfragen nicht ändert.
Lohnt sich ein günstigeres Modell für einfache Aufgaben?
Häufig ja: Für Klassifikation, Extraktion, Zusammenfassungen oder kurze Chat-Antworten reichen kleinere Modelle oft aus und kosten einen Bruchteil der Flaggschiffe. Der Spareffekt kann erheblich sein, aber man sollte die Qualität an eigenen Testfällen prüfen, statt sie anzunehmen. Ein sinnvoller Ansatz ist Routing: einfache Anfragen an ein günstiges Modell, komplexe an ein stärkeres – so zahlt man nur dort mehr, wo es nötig ist.
Wie berechne ich meine monatlichen LLM-API-Kosten?
Multipliziere die erwartete Token-Menge pro Anfrage mit der Anzahl der Anfragen und teile durch eine Million, dann mit dem Preis pro Million Tokens multiplizieren – getrennt für Input und Output:
Kosten = (Input_Tokens × Input_Preis + Output_Tokens × Output_Preis) / 1_000_000
Rechne mit realistischen Durchschnittswerten (etwa aus Logs oder Testläufen) und schlage einen Puffer von 20 bis 30 Prozent für Schwankungen und Retries auf. Ein Kostenrechner automatisiert diese Schätzung und macht Preisunterschiede zwischen Modellen direkt sichtbar.