LLM Tokens einfach erklärt: Was Tokens sind und warum sie AI-Kosten bestimmen

LLM Tokens einfach erklärt: Was Tokens sind und warum sie AI-Kosten bestimmen

Wer mit ChatGPT, Claude, Claude Code, Cursor oder anderen AI-Agenten arbeitet, stößt schnell auf den Begriff Tokens. Tokens bestimmen, wie viel Kontext ein Modell verarbeiten kann, wie lange Antworten werden und welche Kosten entstehen.

Ahrefs zeigt für llm tokens in Deutschland ein Suchvolumen von 50 und global 900. Verwandte Suchanfragen sind tokens llm, tokens in llm, what are tokens in llm und llm tokens explained. Der Suchintent ist klar: Nutzer wollen verstehen, was Tokens sind und warum sie wichtig sind.

Was sind LLM Tokens?

Ein Token ist eine kleine Texteinheit, die ein Sprachmodell verarbeitet. Ein Token kann ein ganzes Wort, ein Wortteil, ein Satzzeichen oder ein Leerzeichenfragment sein. Modelle lesen und schreiben nicht direkt in Wörtern, sondern in Tokens.

Beispiele:

• Kurze englische Wörter können ein Token sein.
• Deutsche zusammengesetzte Wörter können in mehrere Tokens zerfallen.
• Code, JSON und URLs können viele Tokens erzeugen.
• Lange Logs und Tabellen verbrauchen besonders schnell Kontext.

Darum ist die Wortzahl nur eine grobe Annäherung. Für Kosten und Kontextfenster zählt die Tokenzahl.

Warum Tokens Kosten verursachen

LLM-Anbieter rechnen häufig nach Input und Output Tokens ab. Input Tokens sind alles, was du an das Modell sendest. Output Tokens sind alles, was das Modell zurückschreibt.

Bei AI-Coding-Agenten kommen zusätzliche Tokenquellen dazu:

• Projektregeln und Systemprompts
• Memory-Dateien wie CLAUDE.md oder AGENTS.md
• Dateiinhalte aus dem Repository
• Terminalausgaben
• Fehlermeldungen und Logs
• Suchergebnisse
• API- und JSON-Antworten
• Conversation History

Ein kurzer Prompt kann dadurch eine große Anfrage auslösen, wenn der Agent viele Dateien liest oder lange Tool-Ausgaben in den Kontext nimmt.

Input Tokens vs. Output Tokens

Input Tokens sind oft der größere Hebel bei Agenten, weil Tool-Ausgaben und Codekontext massiv wachsen können. Output Tokens werden teuer, wenn der Agent lange Erklärungen schreibt, Code wiederholt oder jeden Schritt ausführlich kommentiert.

Die drei wichtigsten Sparhebel sind deshalb:

• weniger unnötiger Kontext
• weniger unnötige Antwortlänge
• weniger unnötiger Code

Genau diese drei Ebenen decken Headroom, Caveman und Ponytail ab.

Headroom: Weniger Kontext-Tokens

Headroom ist laut README eine Kontextkompressionsschicht für AI-Agenten. Es komprimiert Tool-Ausgaben, Logs, RAG-Chunks, Dateien und Conversation History, bevor sie das LLM erreichen.

Headroom nennt in der README 60 bis 95 Prozent weniger Tokens für JSON-Daten und 15 bis 20 Prozent weniger Tokens für Coding-Agenten. Bei realen Agent-Workloads zeigt die README bis zu 92 Prozent Einsparung, zum Beispiel bei Code Search und SRE Incident Debugging.

Besonders wichtig ist die reversible Kompression über CCR. Originale werden lokal gespeichert und können bei Bedarf wieder abgerufen werden. Das Modell muss also nicht immer den vollen Originaltext im Prompt tragen.

Caveman: Weniger Output-Tokens

Caveman reduziert, was der Agent sagt. Laut README spart Caveman durchschnittlich 65 Prozent Output Tokens über 10 Prompts. Code, Commands und Fehlermeldungen bleiben unverändert, aber Fülltext und lange Erklärungen werden gestrichen.

Das ist nützlich, wenn ein Agent technisch korrekt arbeitet, aber zu viel redet. Weniger Output Tokens bedeuten geringere Kosten und weniger Lesearbeit.

Ponytail: Weniger Code-Tokens

Ponytail setzt vor der Implementierung an. Der Agent soll zuerst prüfen, ob etwas überhaupt gebaut werden muss, ob es bereits im Codebase existiert, ob Standardbibliothek oder native Plattformfunktionen reichen und erst danach minimal neuen Code schreiben.

Laut README spart Ponytail in realen Claude-Code-Benchmarks 54 Prozent Lines of Code, 22 Prozent Tokens, 20 Prozent Kosten und 27 Prozent Zeit.

Das zeigt: Token-Sparen ist nicht nur Textkompression. Es ist auch Produkt- und Engineering-Disziplin.

Warum Code und JSON viele Tokens verbrauchen

Für Entwickler sind zwei Formate besonders tokenintensiv: Code und JSON.

Code enthält viele kurze Symbole, Klammern, Imports, Typen und wiederholte Namen. JSON enthält viele Keys, Quotes, Klammern und verschachtelte Strukturen. Wenn ein Agent große API-Antworten oder komplette Dateien liest, wächst der Kontext schnell.

Deshalb lohnt es sich, Tool-Ausgaben zu kürzen, relevante Ausschnitte zu lesen und strukturierte Daten zu komprimieren. Headroom adressiert genau diesen Bereich mit SmartCrusher für JSON und CodeCompressor für AST-basierte Code-Kompression.

Praktische Tipps zum Tokens sparen

• Lass Agenten gezielt suchen statt ganze Verzeichnisse lesen.
• Bitte um kurze Antworten, wenn du keine Erklärung brauchst.
• Vermeide unnötige Code-Neuschreibungen.
• Halte Projektregeln kompakt.
• Nutze vorhandene Komponenten und Standardbibliotheken.
• Komprimiere lange Logs und JSON-Ausgaben.
• Prüfe regelmäßig, welche Tool-Ausgaben wirklich relevant sind.

Fazit

LLM Tokens sind die Basiseinheit für Kontext, Kosten und Geschwindigkeit. Wer Tokens versteht, kann AI-Agenten deutlich effizienter nutzen.

Für Coding-Workflows ist die beste Strategie dreigeteilt: Headroom reduziert Kontext, Caveman reduziert Antworten und Ponytail reduziert unnötigen Code. Zusammen machen sie AI-Agenten günstiger, schneller und besser steuerbar.