KI

Prompt-Token-Budget-Rechner

Wer mit einem begrenzten Kontextfenster oder Kostenbudget pro Anfrage arbeitet, muss die Token sinnvoll auf Systemprompt, Beispiele, Dokumentenkontext und Antwort aufteilen. Dieser Rechner prüft deine Aufteilung, zeigt Überschreitungen und sagt dir, wie viele Few-Shot-Beispiele oder Kontext-Chunks noch ins Budget passen.

Wozu dient der Prompt-Token-Budget-Rechner?

Wer mit einem begrenzten Kontextfenster oder einem festen Kostenbudget pro Anfrage arbeitet, muss die verfügbaren Token sinnvoll aufteilen: auf den Systemprompt, die Few-Shot-Beispiele, den Dokumentenkontext und die reservierte Antwort. Wird das Budget überschritten, bricht der Aufruf ab oder Inhalte werden abgeschnitten.

Dieser Rechner addiert deine geplanten Bestandteile, zeigt das Restbudget und meldet sofort, ob alles passt oder wie stark du überschreitest. Die prozentualen Anteile machen sichtbar, welcher Block am meisten Platz frisst. Praktisch sind die Hinweise, wie viele weitere Few-Shot-Beispiele noch ins Budget passen und wie viel Platz bei null Beispielen für Kontext bliebe, damit du beim Prompt-Design fundiert priorisierst.

Beispiele

  • 16k-Budget: 800 System, 5 Beispiele à 350, 6.000 Kontext, 1.500 Antwort belegen 10.050 Token, es bleiben 5.950 Token frei.
  • Status: Mit gut 63 % Auslastung meldet der Rechner passt.
  • Noch Platz: Es passen rund 17 weitere Beispiele ins Restbudget.
  • Überschreitung: Erhöhst du den Kontext auf 12.000 Token, springt der Status auf überschritten und zeigt die Differenz an.

Häufige Fragen zum Prompt-Token-Budget-Rechner

Ist das Budget dasselbe wie das Kontextfenster?

Nicht zwingend. Du kannst das Modell-Kontextfenster eintragen oder ein selbst gesetztes Token-Limit pro Anfrage, etwa aus Kostengründen. Der Rechner prüft deine Aufteilung gegen den eingegebenen Wert.

Warum muss ich Antwort-Token reservieren?

Weil sich Eingabe und Ausgabe das Kontextfenster teilen. Reservierst du keinen Platz für die Antwort, kann das Modell mitten im Satz abbrechen. Plane die erwartete maximale Antwortlänge als festen Block ein.

Wie viele Few-Shot-Beispiele sind sinnvoll?

Oft reichen 2 bis 5 gute Beispiele. Mehr verbessern selten und kosten Token. Der Wert maximale weitere Beispiele zeigt dir nur die obere Budgetgrenze, nicht eine Empfehlung.

Was zeigt der freie Platz bei 0 Beispielen?

Er gibt an, wie viel Kontext du maximal anhängen könntest, wenn du auf alle Few-Shot-Beispiele verzichtest. Das hilft abzuwägen, ob du lieber mehr Dokumente oder mehr Beispiele einbaust.