PricingLoginStart free
AI Agents · Pelajaran

Perangkuman sebagai Kompresi

Secara berkala, ganti giliran percakapan lama dengan ringkasan berjalan, dengan menukar kemampuan mengingat secara tepat demi ruang pada jendela konteks.

Pelajaran 3 dari 413 langkah

Perangkuman sebagai Kompresi adalah pelajaran AI Agents gratis di CoddyKit. Ini adalah pelajaran 3 dari 4. Kamu bisa membaca pelajaran lengkapnya di bawah secara gratis — lalu praktikkan langsung di browser dengan editor kode bawaan dan tutor AI 24/7. Ini adalah bagian dari jalur belajar AI Agents, dan progresmu tersinkronisasi di web dan aplikasi CoddyKit. Kursus AI Agents mencakup 4 pelajaran total.

Kompresi sebagai Memori

Setelah percakapan menjadi panjang, ganti giliran lama dengan rangkuman singkat. Anda menukar pengingatan yang persis dengan ruang konteks.

Rangkuman menangkap inti (fakta, keputusan, item yang tertunda) — teks persisnya sudah tidak ada.

Kapan Membuat Rangkuman

Mulai membuat rangkuman ketika:

  • Total token > ambang batas (misalnya 8 ribu)
  • Jumlah giliran > N (misalnya 20)
  • Pengguna memulai topik baru

Ringkas Giliran yang Lebih Lama

Pertahankan giliran terbaru apa adanya; ringkas hanya bagian yang sudah tersisih:

def compact(messages, keep_recent=10):
    system = messages[0]
    old = messages[1:-keep_recent]
    recent = messages[-keep_recent:]
    if not old:
        return messages
    summary = summarise(old)
    return [
        system,
        {'role': 'system', 'content': f'Earlier conversation summary:\n{summary}'},
        *recent
    ]

Perintah Rangkuman

Gunakan panggilan model terpisah yang murah untuk membuat rangkuman:

def summarise(messages):
    text = '\n'.join(f'{m["role"]}: {m["content"]}' for m in messages)
    response = client.chat.completions.create(
        model='gpt-4o-mini',
        messages=[
            {'role': 'system', 'content': 'Summarise this conversation in 5 bullet points. Preserve facts, decisions, and pending TODOs.'},
            {'role': 'user', 'content': text}
        ],
        max_tokens=300,
    )
    return response.choices[0].message.content

Rangkuman yang Terus Diperbarui

Kelola satu rangkuman yang terus berkembang, alih-alih membuat rangkuman ulang dari awal setiap kali:

running_summary = ''

def extend_summary(new_messages):
    global running_summary
    response = client.chat.completions.create(
        model='gpt-4o-mini',
        messages=[
            {'role': 'system', 'content': 'Extend the existing summary with the new turns. Keep it under 200 words.'},
            {'role': 'user', 'content': f'Existing summary:\n{running_summary}\n\nNew turns:\n{format(new_messages)}'}
        ],
        max_tokens=500,
    )
    running_summary = response.choices[0].message.content

Rangkuman Terstruktur

Paksa rangkuman untuk mengekstrak bidang-bidang tertentu:

summary_schema = {
    'topics_discussed': '...',
    'user_facts': {'name': '...', 'preferences': '...'},
    'open_questions': ['...'],
    'decisions_made': ['...']
}
# Use json_object response_format to enforce.
import json
print(json.dumps(summary_schema, indent=2))

Rangkuman Hierarkis

Untuk riwayat yang sangat panjang:

  • Rangkuman setiap 100 giliran (tingkat menengah)
  • Rangkuman setiap 1000 giliran (tingkat tinggi)
  • Rangkuman sepanjang masa (tingkat ekstrem)

Masukkan hanya tingkat yang sesuai ke dalam konteks.

Kehilangan Detail

Rangkuman kehilangan kutipan khusus dan susunan kata yang persis. Jika pengguna bertanya "apa tepatnya yang saya katakan sebelumnya tentang harga?" model tidak dapat menjawabnya.

Untuk mengingat secara persis, Anda memerlukan konteks yang lebih besar atau arsip pencarian vektor.

Gunakan Vektor dan Arsip Sekaligus

Dapatkan keunggulan dari keduanya:

  1. Ringkas giliran lama ke dalam pesan sistem
  2. ALSO ubah setiap giliran menjadi representasi vektor dan simpan di penyimpanan vektor
  3. Jika pengguna meminta detail, ambil teks persisnya dari penyimpanan vektor

Kualitas Rangkuman Itu Penting

Rangkuman yang buruk lebih buruk daripada tidak memiliki rangkuman. Gunakan model yang murah tetapi mampu (gpt-4o-mini, haiku) — bukan tingkatan termurah — untuk panggilan pembuatan rangkuman.

Pembaruan Rangkuman Itu Mahal

Merangkum 8000 token percakapan adalah panggilan LLM sungguhan — 1–2 detik, 0,5 sen. Lakukan secara asinkron di antara giliran, bukan pada jalur kritis.

Kompromi Rangkuman

Apa kompromi utama saat menggunakan pembuatan rangkuman sebagai memori?

Jawab di pelajaran interaktif

Rangkuman

Pembuatan rangkuman adalah cara murah untuk memperluas memori. Gabungkan dengan pencarian vektor untuk mengingat kutipan secara persis.

Gratis untuk memulai

Belajar AI Agents dengan tutor AI — gratis

Tulis dan jalankan kode asli di browser kamu, dapatkan bantuan instan dari tutor AI 24/7, dan lanjutkan di mana kamu tinggalkan di web atau aplikasi.

Kursus
60
Pelajaran
239
Mulai belajar gratisLihat kursus lengkapnya

Pertanyaan yang Sering Diajukan

Apakah pelajaran “Perangkuman sebagai Kompresi” gratis?

Ya — teks lengkap “Perangkuman sebagai Kompresi” gratis dibaca di sini di web. Untuk praktiknya secara interaktif (editor kode bawaan dan tutor AI 24/7) dan buka sisa kursus AI Agents, upgrade ke CoddyKit PRO. Kursus AI Agents mencakup 4 pelajaran total.

Apa yang akan aku pelajari di “Perangkuman sebagai Kompresi”?

Secara berkala, ganti giliran percakapan lama dengan ringkasan berjalan, dengan menukar kemampuan mengingat secara tepat demi ruang pada jendela konteks. Kamu berlatih AI Agents dengan kode praktik yang langsung kamu jalankan di browser, dan tutor AI 24/7 menjawab pertanyaanmu saat kamu mengerjakan pelajaran ini.

Apakah aku perlu pengalaman untuk memulai AI Agents?

Tidak diperlukan pengalaman sebelumnya. AI Agents di CoddyKit dirancang untuk pemula hingga pelajar tingkat lanjut, jadi kamu bisa memulai di sini atau dari awal dan belajar sesuai kecepatan kamu sendiri. Ini adalah pelajaran 3 dari 4.

Berapa lama pelajaran “Perangkuman sebagai Kompresi” memakan waktu?

Sebagian besar pelajaran CoddyKit memakan waktu sekitar 5–10 menit. Setiap pelajaran ringkas dan interaktif, jadi kamu membuat kemajuan stabil dan melanjutkan dari tempat kamu tinggalkan di web dan aplikasi.

Bisakah aku menulis dan menjalankan kode dalam pelajaran AI Agents ini?

Ya. Setiap pelajaran AI Agents menyertakan editor kode bawaan, jadi kamu menulis dan menjalankan kode nyata langsung di browser dan mendapatkan umpan balik AI instan — tidak diperlukan penyiapan lokal.

Semua pelajaran dalam kursus ini

  1. Memori Jangka Pendek di Jendela Konteks
  2. Mengapa Konteks Panjang Tidak Berskala
  3. Perangkuman sebagai Kompresi
  4. Penyimpanan Memori Sederhana (Kunci-Nilai)
← Kembali ke AI Agents