AI Agents · Lektion

Zusammenfassen als Kompression

Ersetzen Sie alte Gesprächsbeiträge regelmäßig durch eine fortlaufende Zusammenfassung und tauschen Sie dabei exakte Erinnerung gegen Platz im Kontextfenster.

Zusammenfassen als Kompression ist eine kostenlose AI Agents-Lektion auf CoddyKit. Dies ist Lektion 3 von 4. Du kannst die komplette Lektion unten kostenlos lesen – dann übst du sie direkt im Browser mit einem integrierten Code-Editor und einem KI-Tutor rund um die Uhr. Sie ist Teil des AI Agents-Lernpfads, und dein Fortschritt wird über Web und CoddyKit-App synchronisiert. Der AI Agents-Kurs umfasst insgesamt 4 Lektionen.

Komprimierung als Gedächtnis

Sobald eine Unterhaltung lang wird, ersetzen Sie ältere Nachrichten durch eine kurze Zusammenfassung. Sie tauschen exaktes Erinnern gegen Kontextplatz.

Die Zusammenfassung erfasst das Wesentliche (Fakten, Entscheidungen, offene Punkte) — der Wortlaut geht verloren.

Wann zusammengefasst werden sollte

Lösen Sie eine Zusammenfassung aus, wenn:

die Gesamtzahl der Tokens einen Schwellenwert überschreitet (z. B. 8k)
die Anzahl der Nachrichten N überschreitet (z. B. 20)
der Benutzer ein neues Thema beginnt

Ältere Nachrichten zusammenfassen

Behalten Sie aktuelle Nachrichten im Wortlaut bei und fassen Sie nur die herausgefallenen Nachrichten zusammen:

def compact(messages, keep_recent=10):
    system = messages[0]
    old = messages[1:-keep_recent]
    recent = messages[-keep_recent:]
    if not old:
        return messages
    summary = summarise(old)
    return [
        system,
        {'role': 'system', 'content': f'Earlier conversation summary:\n{summary}'},
        *recent
    ]

Zusammenfassungs-Prompt

Verwenden Sie einen separaten, kostengünstigen Modellaufruf für die Zusammenfassung:

def summarise(messages):
    text = '\n'.join(f'{m["role"]}: {m["content"]}' for m in messages)
    response = client.chat.completions.create(
        model='gpt-4o-mini',
        messages=[
            {'role': 'system', 'content': 'Summarise this conversation in 5 bullet points. Preserve facts, decisions, and pending TODOs.'},
            {'role': 'user', 'content': text}
        ],
        max_tokens=300,
    )
    return response.choices[0].message.content

Fortlaufende Zusammenfassungen

Führen Sie eine einzige wachsende Zusammenfassung, anstatt sie jedes Mal von Grund auf neu zu erstellen:

running_summary = ''

def extend_summary(new_messages):
    global running_summary
    response = client.chat.completions.create(
        model='gpt-4o-mini',
        messages=[
            {'role': 'system', 'content': 'Extend the existing summary with the new turns. Keep it under 200 words.'},
            {'role': 'user', 'content': f'Existing summary:\n{running_summary}\n\nNew turns:\n{format(new_messages)}'}
        ],
        max_tokens=500,
    )
    running_summary = response.choices[0].message.content

Strukturierte Zusammenfassungen

Erzwingen Sie, dass die Zusammenfassung bestimmte Felder extrahiert:

summary_schema = {
    'topics_discussed': '...',
    'user_facts': {'name': '...', 'preferences': '...'},
    'open_questions': ['...'],
    'decisions_made': ['...']
}
# Use json_object response_format to enforce.
import json
print(json.dumps(summary_schema, indent=2))

Hierarchische Zusammenfassungen

Für sehr lange Verläufe:

Zusammenfassungen je 100 Nachrichten (mittlere Ebene)
Zusammenfassungen je 1000 Nachrichten (hohe Ebene)
Zusammenfassung der gesamten Lebensdauer (höchste Ebene)

Fügen Sie nur die passende Ebene in den Kontext ein.

Detailverlust

Zusammenfassungen verlieren konkrete Zitate und den exakten Wortlaut. Wenn der Benutzer fragt: „Was genau habe ich vorhin über die Preisgestaltung gesagt?“, kann das Modell nicht antworten.

Für eine wortgetreue Erinnerung benötigen Sie entweder einen größeren Kontext oder ein Archiv mit Vektorsuche.

Beides mit einem Vektorarchiv

Das Beste aus beiden Welten:

Fassen Sie ältere Nachrichten in der Systemnachricht zusammen
Erstellen Sie ZUSÄTZLICH für jede Nachricht ein Embedding und speichern Sie es in einem Vektorspeicher
Wenn der Benutzer nach Einzelheiten fragt, rufen Sie den Wortlaut aus dem Vektorspeicher ab

Die Qualität der Zusammenfassung ist entscheidend

Eine schlechte Zusammenfassung ist schlimmer als keine Zusammenfassung. Verwenden Sie für Zusammenfassungsaufrufe ein kostengünstiges, aber leistungsfähiges Modell (gpt-4o-mini, haiku) — nicht die günstigste Tarifstufe.

Aktualisierungen der Zusammenfassung sind teuer

Die Zusammenfassung einer Unterhaltung mit 8000 Tokens ist ein echter LLM-Aufruf — 1–2 Sekunden, 0,5 Cent. Führen Sie ihn zwischen den Nachrichten asynchron aus, statt ihn auf dem kritischen Pfad auszuführen.

Abwägung bei Zusammenfassungen

Was ist die wichtigste Abwägung, wenn Zusammenfassungen als Gedächtnis verwendet werden?

Zusammenfassung

Zusammenfassungen sind die kostengünstige Möglichkeit, das Gedächtnis zu erweitern. Kombinieren Sie sie mit Vektor-Retrieval, um sich exakt an Zitate zu erinnern.

Häufig gestellte Fragen

Ist die Lektion „Zusammenfassen als Kompression“ kostenlos?

Ja — der vollständige Text von „Zusammenfassen als Kompression“ ist hier im Web kostenlos zu lesen. Um sie interaktiv zu üben (integrierter Code-Editor und 24/7 KI-Tutor) und den Rest des AI Agents-Kurses freizuschalten, upgrade auf CoddyKit PRO. Der AI Agents-Kurs umfasst insgesamt 4 Lektionen.

Was lerne ich in „Zusammenfassen als Kompression“?

Ersetzen Sie alte Gesprächsbeiträge regelmäßig durch eine fortlaufende Zusammenfassung und tauschen Sie dabei exakte Erinnerung gegen Platz im Kontextfenster. Du übst AI Agents mit praktischem Code, den du direkt im Browser ausführst, und ein 24/7 KI-Tutor beantwortet deine Fragen während du die Lektion bearbeitest.

Brauche ich Erfahrung, um AI Agents zu starten?

Keine Vorkenntnisse erforderlich. AI Agents auf CoddyKit ist für Anfänger bis fortgeschrittene Lernende strukturiert, sodass du hier starten oder von Anfang an beginnen und in deinem eigenen Tempo voranschreiten kannst. Dies ist Lektion 3 von 4.

Wie lange dauert die Lektion „Zusammenfassen als Kompression“?

Die meisten CoddyKit-Lektionen dauern etwa 5–10 Minuten. Jede ist kompakt und interaktiv, sodass du stetig Fortschritte machst und genau dort weitermachst, wo du aufgehört hast – im Web und in der App.

Kann ich in dieser AI Agents-Lektion Code schreiben und ausführen?

Ja. Jede AI Agents-Lektion enthält einen integrierten Code-Editor, sodass du echten Code direkt in deinem Browser schreibst und ausführst und sofort KI-Feedback erhältst — ohne lokale Einrichtung erforderlich.

Alle Lektionen in diesem Kurs

← Zurück zu AI Agents