3 Min. Lesezeit
Der Preis eines Tokens
Die Demo kostete nichts, das jemandem auffiel. Zehn Anfragen, ein paar Cent, Applaus. Dann ging das Feature live, aus zehn Anfragen wurden zehntausend am Tag, und die Rechnung kam mit einem Namen darauf. Die KI-Rechnung hat jetzt einen Besitzer. Sie ist zu einem Budgetposten geworden, einem eigenen Etat, einem kleinen Projekt für sich.
Der Reflex ist, den Preis des Modells verantwortlich zu machen. Er ist es fast nie. Es geht darum, wie du Tokens ausgibst.
Der Cache, den du schon hast
Jeder Aufruf sendet seinen Kontext erneut: den System-Prompt, die Anweisungen, die abgerufenen Dokumente. Anthropic cached diesen Kontext, du zahlst also einmal den vollen Preis und danach nur noch einen Bruchteil. Ein Cache-Read kostet ein Zehntel eines normalen Input-Tokens.
Aber du schaltest ihn nicht ein. Du verdienst ihn dir. Der Cache lebt fünf Minuten, das ist seine TTL, und diese Uhr wird bei jedem Zugriff zurückgesetzt. Arbeitest du weiter, bleibt er warm, zu einem Zehntel des Preises. Gehst du fünf Minuten weg, läuft er ab; der nächste Aufruf zahlt wieder einen Write, das Eineinviertelfache des Grundpreises.
Die günstigste Unterhaltung ist also die, die warm und klein bleibt.
Eine Unterhaltung, eine Aufgabe
Eine ausufernde Ganztagssitzung ist die teure Form. Zwischen den Runden liegt sie brach, also wird der Cache immer wieder kalt. Sie sammelt Verlauf an, also sendet jede Runde mehr als die vorige. Und ein überladener Kontext macht die Antworten schlechter, nicht besser.
Das Heilmittel ist derselbe Instinkt, aus dem guter Code entsteht: eine Sache, richtig gemacht. Eine Methode erledigt eine Aufgabe. In einer Agenten-Flotte bekommt jeder Subagent eine Mission und jeder Hook bewacht einen Tool-Aufruf. Eine Unterhaltung verdient dieselbe Disziplin: kurz, intensiv, einer einzigen Aufgabe gewidmet und dann geschlossen. Kleiner Kontext, warmer Cache, schärfere Antwort. Günstiger und besser erweisen sich am Ende als derselbe Schritt. Und wenn eine Sitzung weiterlaufen muss, erkauft ihre Verdichtung, das Ersetzen des Verlaufs durch eine Zusammenfassung, einen kleinen Kontext zum Preis eines einzigen erneuten Cache-Writes.
Halte das Wissen außerhalb des Fensters
Die andere Hälfte ist, nicht alles, was du weißt, im Prompt mitzuschleppen. Deine gesamte Codebase gehört nicht in den Kontext, und ebenso wenig jede vergangene Entscheidung. Rufe ab, was die Aufgabe braucht, und lass den Rest auf der Platte.
Genau dafür sind diese Werkzeuge da. Claude Context indiziert eine Codebase in eine Vektordatenbank und zieht nur die relevanten Ausschnitte ins Fenster. MemPalace hält Erinnerung über Sitzungen hinweg, sodass jede neue klein beginnt, statt die vorige noch einmal abzuspielen. Beide verkleinern den Kontext, für den du bei jedem einzelnen Aufruf zahlst. Retrieval ist ein Kostenhebel, bevor es ein Genauigkeitshebel ist.
Die Rechnung ist eine Design-Entscheidung
Zwei Hebel vervollständigen das Bild. Schick die leichte Arbeit an ein kleines, günstiges Modell und heb dir das teure für die schweren Fälle auf. Und für deine eigene tägliche Arbeit ist ein Pauschal-Abo günstiger, als dich selbst pro Token abzurechnen; die Abrechnung pro Token ist für das Produkt, nicht für den Menschen.
Nichts davon schaltet etwas ab. Das Feature bleibt so leistungsfähig wie die Demo. Was sich ändert, ist, dass die Rechnung aufhört, ein fixer Kostenblock zu sein, den du fürchtest, und zu einer Zahl wird, die du formst. Gib Tokens so aus, wie du Aufmerksamkeit ausgibst: immer nur für eine Sache.
Beitrag teilen