Ergebnislast durch Tokens reduzieren

Alles, was Ihr Tool zurückgibt, wird Teil des Kontexts des Modells, und jedes Zeichen kostet Tokens. Aufgeblähte Ausgaben verursachen reale Kosten. 💸

Ein riesiger Datenblock kann das begrenzte Kontextfenster des Modells füllen, frühere Nachrichten verdrängen und weniger Raum für tatsächliche Schlussfolgerungen lassen.

Geben Sie nur die Felder zurück, die die Aufgabe benötigt. Ein fokussiertes Ergebnis hilft dem Modell deutlich mehr, als einen vollständigen Rohdatensatz auszugeben.

Entfernen Sie interne IDs, Zeitstempel und Metadaten, die das Modell nie verwenden wird. Wählen Sie nur die relevanten Schlüssel aus, bevor Sie sie zurückgeben.

Geben Sie bei langen Ergebnissen eine einzelne Seite mit einem Cursor zurück, statt Tausende Zeilen zu senden. Das Modell kann nur dann weitere Daten anfordern, wenn es sie benötigt.

Setzen Sie eine feste Obergrenze für die Ergebnislänge und kürzen Sie alles darüber, damit eine außer Kontrolle geratene Abfrage das Modell nicht mit Megabytes an Text überflutet.

Manchmal ist eine kurze Zusammenfassung besser als Rohdaten, insbesondere bei Protokollen oder Dokumenten, bei denen das Modell nur den wesentlichen Inhalt und nicht jede Zeile benötigt.

Schön formatiertes, tief verschachteltes JSON verschwendet Tokens. Eine flache, kompakte Struktur enthält dieselben Informationen mit deutlich weniger Zeichen.

Geben Sie bei wirklich großen Inhalten einen Ressourcen-Link zurück, den das Modell bei Bedarf lesen kann, anstatt die gesamte Nutzlast bei jedem Aufruf einzubetten.

Lange Stacktraces verbrauchen schnell Tokens. Geben Sie eine kurze, klare Fehlermeldung zurück und bewahren Sie den vollständigen Trace in den serverseitigen Protokollen auf.

Prägnante Ergebnisse sparen Budget und verbessern die Schlussfolgerungen. Eine fokussierte Antwort liefert dem Modell genau das, was es benötigt, und nichts darüber hinaus.

Sie haben nur benötigte Felder zurückgegeben, Ergebnisse paginiert, die Größe begrenzt, Inhalte zusammengefasst und große Daten ausgelagert. So bleiben die Ergebnisse token-effizient. 🎯