6 Prompt-Caching-Tricks, die Ihre KI-API-Kosten über Nacht senken

Die meisten Teams, die KI in großem Maßstab betreiben, lassen Geld liegen. Nicht weil sie das falsche Modell verwenden oder schlechte Prompts schreiben – sondern weil sie dieselben Tausende von Token bei jedem einzelnen API-Aufruf erneut senden und jedes Mal den vollen Preis zahlen.

Prompt Caching ändert diese Rechnung. Für Workloads, bei denen ein erheblicher Teil des Prompts über Anfragen hinweg gleich bleibt – ein System-Prompt mit Unternehmenswissen, ein langes Richtliniendokument, ein festes Few-Shot-Beispielset – bedeutet das Caching des statischen Teils, dass diese Token einmal verarbeitet werden und bei jedem nachfolgenden Aufruf ein Bruchteil der Kosten anfällt.

Die Einsparungen sind nicht marginal. Für die richtigen Workloads beträgt die Rechnungsreduzierung 50-90 %. Dieser Beitrag behandelt sechs konkrete Techniken, um dorthin zu gelangen.

Anbieterhinweis: Die meisten Beispiele unten beziehen sich auf Anthropics Claude Prompt Caching, das zum Zeitpunkt des Schreibens am häufigsten eingesetzt wird. Die Prinzipien gelten auch für OpenAIs und Googles äquivalente Funktionen, aber die Implementierungssyntax unterscheidet sich. Prüfen Sie die aktuelle Dokumentation jedes Anbieters für Details.

Die Mathematik hinter Prompt Caching

Ein typischer Kunden-Support-Automatisierungs-Workflow könnte so aussehen:

• System-Prompt mit Unternehmensrichtlinien, Produktdetails und Antwortleitlinien: 15.000 Token
• Nutzernachricht: 200 Token
• Gesamt pro Anfrage: 15.200 Token

Zu Claude-Sonnet-4.6-Standardpreisen (~3,00 US-Dollar pro Million Input-Token) kostet die Verarbeitung von 10.000 Anfragen pro Tag:

• Ohne Caching: ~456 US-Dollar/Tag nur für Input-Token
• Mit Caching (die 15.000-Token-System-Prompt gecacht zu ~0,30 US-Dollar/Million): ~46 US-Dollar/Tag

Das ist ein Unterschied von 410 US-Dollar/Tag bei einem einzigen Workflow. Die Ausgabequalität ist identisch. Die einzige Änderung ist, wo im Request die Cache-Grenze liegt.

Die 6 Techniken

1. Den System-Prompt cachen — Der grundlegende Gewinn

Die einzelne Änderung mit dem größten Einfluss für die meisten Produktions-Workflows. Wenn Ihr System-Prompt länger als 1.024 Token ist (der minimale cachefähige Schwellenwert für Claude) und sich zwischen Anfragen nicht ändert, ist das Cachen eine unkomplizierte Optimierung, die minimale Code-Änderungen erfordert.

Wann das gilt: Jede Automatisierung mit einem substantiellen System-Prompt, der über Anfragen hinweg konstant bleibt. Kunden-Support-Bots, Dokumentenanalyse-Agenten, Klassifizierungs-Pipelines, E-Mail-Generatoren – alle haben typischerweise einen großen festen System-Prompt.

Implementierung mit Claude:

{
  "system": [
    {
      "type": "text",
      "text": "Ihr vollständiger System-Prompt hier...",
      "cache_control": {"type": "ephemeral"}
    }
  ],
  "messages": [
    {"role": "user", "content": "Spezifische Benutzeranfrage"}
  ]
}

Das cache_control-Flag signalisiert, dass alles bis zu diesem Punkt gecacht werden soll. Nachfolgende Aufrufe mit demselben Präfix werden aus dem Cache zu ~90 % niedrigeren Kosten bedient.

Erwartete Einsparungen: 60-90 % Reduktion der Input-Token-Kosten für hochvolumige Workflows mit langen System-Prompts.

2. Referenzdokumente innerhalb des Prompts cachen

Viele KI-Workflows injizieren Referenzdokumente – Produktdokumentation, Richtlinienhandbücher, Wissensbasis-Artikel – neben jeder Anfrage in den Prompt. Wenn dieselben Dokumente bei jedem Aufruf erscheinen, sind sie cachefähig.

Wann das gilt: RAG-lite-Muster, bei denen Sie wiederholt dieselben Dokumente injizieren statt semantisches Retrieval durchzuführen. Klassifizierungs-Workflows, die ein vollständiges Kategorie-Definitionsdokument enthalten. Rechts- oder Compliance-Agenten, die immer denselben Richtlinientext referenzieren.

Implementierung: Strukturieren Sie Ihren Prompt so, dass der Dokumentinhalt vor dem Cache-Breakpoint erscheint, und die spezifische Anfrage des Benutzers danach.

{
  "system": [
    {
      "type": "text",
      "text": "[Ihr statischer System-Prompt hier]"
    },
    {
      "type": "text",
      "text": "[Vollständiger Text Ihres Referenzdokuments — 5.000 Token]",
      "cache_control": {"type": "ephemeral"}
    }
  ],
  "messages": [{"role": "user", "content": "Benutzeranfrage zum Dokument"}]
}

Jede Anfrage verwendet nun das gecachte Dokument wieder, statt es erneut zu verarbeiten. Die Benutzeranfrage erhält weiterhin frische Verarbeitung.

Praktischer Tipp: Wenn Ihre Referenzdokumente sich ändern (aktualisierte Richtlinien, neue Produktversionen), strukturieren Sie den Prompt so, dass die stabilen Teile gecacht werden und die volatilen Teile außerhalb der Cache-Grenze bleiben. Sie können einen Cache-Breakpoint in Ihrem Prompt haben – planen Sie seine Position sorgfältig.

3. Few-Shot-Beispiele cachen für Konsistenz und Kostensenkung

Few-Shot-Prompting – das Einschließen von 3-10 Beispielen des gewünschten Eingabe-/Ausgabeverhaltens im Prompt – verbessert die Modellkonsistenz für strukturierte Aufgaben. Die Kosten: Diese Beispiele verbrauchen bei jeder einzelnen Anfrage Token.

Wenn Ihre Beispiele statisch sind (dieselben 5 Beispiele jedes Mal), sind sie perfekte Caching-Kandidaten.

Wann das gilt: Klassifizierungsaufgaben mit festen Beispielsets, Formatierungsaufgaben, bei denen Beispiele die erforderliche Ausgabestruktur demonstrieren, Extraktionsaufgaben mit Beispiel-Eingabe-/Ausgabe-Paaren.

Implementierung: Platzieren Sie die Few-Shot-Beispiele vor dem Cache-Breakpoint und die tatsächliche Eingabe danach.

{
  "system": [
    {
      "type": "text",
      "text": "Sie sind ein Dokumenten-Klassifizierer. Klassifizieren Sie das Dokument als eines von: Rechnung, Vertrag, Bericht, Korrespondenz.\n\nBeispiele:\nEingabe: 'Bitte finden Sie anbei Rechnung #4521...' → Rechnung\nEingabe: 'Diese Vereinbarung wird abgeschlossen zwischen...' → Vertrag\n[...weitere Beispiele...]",
      "cache_control": {"type": "ephemeral"}
    }
  ],
  "messages": [{"role": "user", "content": "Neues zu klassifizierendes Dokument: [Dokumenttext]"}]
}

Sie behalten alle Konsistenzvorteile des Few-Shot-Prompting, zahlen aber nach dem ersten Aufruf gecachte Tarife für die Beispiele bei jeder Anfrage.

Erwartete Einsparungen: Wenn Ihre 5 Beispiele zusammen 2.000 Token umfassen und Sie 5.000 Anfragen pro Tag ausführen, spart das Cachen der Beispiele etwa 27 US-Dollar/Tag zu Claude-Sonnet-Preisen – bedeutsam für eine kleine Optimierung.

4. Prompt-Schichten strukturieren, um Cache-Treffer zu maximieren

Prompt Caching funktioniert am besten, wenn der gecachte Teil über so viele Anfragen wie möglich identisch ist. Wenn Sie drei "Ebenen" in Ihrem Prompt haben – Basisanweisungen, kundenspezifische Anpassung und anfragespezifischer Inhalt – strukturieren Sie sie so, dass die stabilste Ebene am tiefsten ist und die variabelste zuletzt kommt.

Prompt-Struktur für maximale Cache-Treffer:

[Ebene 1: Basis-System-Prompt — ändert sich nie] ← hier cachen
[Ebene 2: Kundenspezifische Regeln — ändert sich pro Kunde] ← potenziell pro Kunde cachen
[Ebene 3: Anfragespezifischer Kontext — ändert sich pro Anfrage] ← nie gecacht

Wenn Sie mehrere Kunden mit verschiedenen Konfigurationen bedienen, haben Sie zwei Optionen:

• Ein gemeinsamer Cache für die Basisebene + nicht gecachte Kundenanpassung
• Separate gecachte Prompts pro Kundenkonfiguration (funktioniert gut, wenn jeder Kunde hohes Anfragevolumen sendet)

Implementierungsprinzip: Denken Sie an Caching als Commit-Punkt. Alles vor dem letzten cache_control-Marker wird gemeinsam gecacht. Strukturieren Sie Ihre Prompt-Schichten so, dass der Cache-Breakpoint an der Grenze zwischen stabilem und variablem Inhalt liegt.

Pro-Tipp: Wenn Ihr Prompt Inhalt hat, der 30 Tage stabil ist, und Inhalt, der sich stündlich ändert, cachen Sie nur den 30-Tage-stabilen Teil. Häufig wechselnden Inhalt zu cachen ist schlechter als nicht zu cachen – Sie werden den Cache ständig invalidieren und neu aufbauen, zahlen Schreibkosten ohne Lese-Einsparungen.

5. Konversationshistorie bei Multi-Turn-Workflows cachen

Bei Multi-Turn-Konversationen oder agentischen Workflows wächst die Konversationshistorie mit jedem Durchgang. Durchgang 10 einer Konversation enthält die vollständige Historie der Durchgänge 1-9. Ohne Caching verarbeitet jeder Durchgang die gesamte Historie erneut.

Mit Konversations-Caching: Die Konversationshistorie bis zum aktuellsten Durchgang cachen. Jeder neue Durchgang verarbeitet nur die inkrementelle neue Nachricht, nicht die gesamte Historie erneut.

Wie es funktioniert:

{
  "messages": [
    {"role": "user", "content": "Erste Nachricht"},
    {"role": "assistant", "content": "Erste Antwort"},
    {"role": "user", "content": "Zweite Nachricht"},
    {"role": "assistant", "content": "Zweite Antwort"},
    {
      "role": "user",
      "content": [
        {"type": "text", "text": "Dritte Nachricht", "cache_control": {"type": "ephemeral"}}
      ]
    }
  ]
}

Der Cache-Marker wird am Ende der aktuellsten Benutzernachricht platziert. Alles davor (die vollständige Konversationshistorie) wird aus dem Cache für die aktuelle Antwortgenerierung des Modells bedient.

Wann das am wichtigsten ist: Lange agentische Schleifen, Kunden-Support-Konversationen, die sich über mehrere Nachrichten erstrecken, Recherche-Agenten, die über viele Retrieval-Schritte Kontext ansammeln. In einer 20-Durchgang-Konversation sind die Einsparungen bei der erneuten Verarbeitung der Durchgänge 1-19 erheblich.

Erwartete Einsparungen: Für einen Workflow mit durchschnittlich 15 Konversationsdurchgängen und durchschnittlich 500 Token pro Durchgang spart das Cachen der Historie das erneute Verarbeiten von ~7.500 Token beim finalen Durchgang. Bei größerem Maßstab (1.000 Konversationen/Tag) summiert sich das schnell.

6. Cache-Trefferraten überwachen und danach optimieren

Caching ohne Messung zu implementieren ist wie die Installation von Solarmodulen ohne Prüfung des Zählers. Anthropics API-Antwort enthält Cache-Treffer-/Fehltreffer-Metadaten – nutzen Sie sie.

Was zu verfolgen ist:

// Im usage-Objekt der API-Antwort:
{
  "input_tokens": 200,
  "cache_creation_input_tokens": 15000,  // in den Cache geschriebene Token (erster Aufruf)
  "cache_read_input_tokens": 15000       // aus dem Cache gelesene Token (nachfolgende Aufrufe)
}

• cache_creation_input_tokens: Wie viele Token in den Cache geschrieben wurden (Sie zahlen etwas mehr für den Erstellungsaufruf)
• cache_read_input_tokens: Wie viele Token aus dem Cache bedient wurden (zum ermäßigten Tarif berechnet)

Wie eine gute Cache-Trefferrate aussieht: Für einen hochfrequenten Workflow mit einem festen System-Prompt sollten Sie nach dem ersten Aufruf jedes Cache-Fensters sehen, dass cache_read_input_tokens dominiert. Wenn Sie häufige cache_creation_input_tokens über das sehen, was identische Prompts sein sollten, variiert etwas im gecachten Teil unerwartet.

Häufige Ursachen für niedrige Cache-Trefferraten:

• Zeitstempel oder dynamische Werte, die in den "statischen" Teil des Prompts eingebettet sind
• Leerzeichen- oder Formatierungsinkonsistenzen zwischen Aufrufen
• Der cachefähige Teil fällt unter den minimalen Token-Schwellenwert
• Cache-TTL läuft zwischen niederfrequenten Aufrufen ab

In n8n: Protokollieren Sie das usage-Objekt aus jeder Claude-API-Antwort in einer Google-Tabelle oder Datenbank. Ein einfaches Dashboard, das die Cache-Trefferrate über die Zeit zeigt, zeigt Ihnen, ob Ihre Optimierung hält, und signalisiert, wenn sie bricht.

Mehr zum Berechnen und Verfolgen von KI-Kosten in der Produktion finden Sie unter Wie Sie Token-Kosten für ein KI-Projekt berechnen und Versteckte KI-Automatisierungskosten, vor denen Sie niemand warnt.

Schnelle Auswirkungsbeurteilung: Ist Ihr Workflow ein guter Caching-Kandidat?

Caching in n8n implementieren

Im HTTP-Request-Node von n8n, der die Claude API aufruft, fügen Sie das cache_control-Feld zu den relevanten Abschnitten Ihres Request-Body-JSON hinzu. Der Node unterstützt vollständig benutzerdefinierte Request-Bodies, sodass die Implementierung unkompliziert ist:

1. In Ihrem HTTP-Request-Node den Body-Typ auf JSON umschalten
2. Ihr System-Prompt-Array mit dem cache_control-Objekt für den zu cachenden Abschnitt strukturieren
3. Im Response-Body body.usage.cache_read_input_tokens protokollieren, um Treffer zu verifizieren
4. Ihre API-Rechnung vor und nach dem Vergleich – die Einsparungen sollten bei hochvolumigen Workflows innerhalb von 24 Stunden sichtbar sein

Für Low-Code-Implementierungen in Make.com oder anderen Plattformen gilt dieselbe JSON-Struktur über das HTTP-Modul.

Das breitere Bild der Kostenoptimierung

Prompt Caching ist ein Hebel unter mehreren. Für umfassende KI-Kostensenkung:

• Caching: Erneutes Verarbeiten wiederholten Prompt-Inhalts eliminieren (dieser Beitrag)
• Modell-Routing: Günstigere Modelle für einfachere Aufgaben verwenden, leistungsfähige Modelle für komplexe reservieren
• Ausgabelänge kontrollieren: Explizite Anweisungen zur Antwortlänge verhindern ausführliche Ausgaben, die unnötige Output-Token verbrennen
• Batching: Anfragen in Stapeln außerhalb der Stoßzeiten verarbeiten, wo Anbieter niedrigere Preise anbieten
• Prompt-Komprimierung: Redundante Informationen aus Prompts entfernen ohne Bedeutungsverlust

Das Kombinieren von Caching mit Modell-Routing produziert typischerweise die größten kombinierten Einsparungen – das richtige Modell zum richtigen Preis für jede Aufgabe, mit wiederholtem Inhalt aus dem Cache bedient.

Möchten Sie eine Kostenprüfung Ihres aktuellen KI-Automatisierungs-Stacks? Buchen Sie eine Sitzung unter evalics.com/contact, um Ihre wirkungsvollsten Kostensenkungsmöglichkeiten zu identifizieren und umzusetzen.