Ejen AI · Pelajaran

Peringkasan sebagai Pemampatan

Gantikan giliran lama secara berkala dengan ringkasan berterusan, sambil menukar ketepatan ingatan dengan ruang dalam tetingkap konteks.

Pelajaran 3 daripada 413 langkah

Peringkasan sebagai Pemampatan ialah pelajaran Ejen AI percuma di CoddyKit. Ini ialah pelajaran 3 daripada 4. Anda boleh membaca keseluruhan pelajaran di bawah secara percuma — kemudian berlatih secara praktikal dalam pelayar menggunakan penyunting kod terbina dalam dan tutor kecerdasan buatan 24/7. Pelajaran ini merupakan sebahagian daripada laluan pembelajaran Ejen AI, dan kemajuan anda disegerakkan merentas web serta aplikasi CoddyKit. Kursus Ejen AI merangkumi sejumlah 4 pelajaran.

Pemampatan sebagai Memori

Apabila perbualan menjadi panjang, gantikan giliran lama dengan ringkasan pendek. Anda menukar recall tepat dengan ruang konteks.

Ringkasan menangkap inti pati (fakta, keputusan, perkara yang belum selesai) — teks asal secara verbatim sudah tiada.

Bila Perlu Meringkaskan

Cetuskan peringkasan apabila:

Jumlah token melebihi ambang (contohnya 8k)
Bilangan giliran melebihi N (contohnya 20)
Pengguna memulakan topik baharu

Ringkaskan Giliran Lama

Kekalkan giliran terkini secara verbatim; ringkaskan hanya bahagian yang telah terkeluar:

def compact(messages, keep_recent=10):
    system = messages[0]
    old = messages[1:-keep_recent]
    recent = messages[-keep_recent:]
    if not old:
        return messages
    summary = summarise(old)
    return [
        system,
        {'role': 'system', 'content': f'Earlier conversation summary:\n{summary}'},
        *recent
    ]

Gesaan Ringkasan

Gunakan panggilan model berasingan yang murah untuk menghasilkan ringkasan:

def summarise(messages):
    text = '\n'.join(f'{m["role"]}: {m["content"]}' for m in messages)
    response = client.chat.completions.create(
        model='gpt-4o-mini',
        messages=[
            {'role': 'system', 'content': 'Summarise this conversation in 5 bullet points. Preserve facts, decisions, and pending TODOs.'},
            {'role': 'user', 'content': text}
        ],
        max_tokens=300,
    )
    return response.choices[0].message.content

Ringkasan Berterusan

Kekalkan satu ringkasan yang berkembang dan bukannya meringkaskan semula dari awal setiap kali:

running_summary = ''

def extend_summary(new_messages):
    global running_summary
    response = client.chat.completions.create(
        model='gpt-4o-mini',
        messages=[
            {'role': 'system', 'content': 'Extend the existing summary with the new turns. Keep it under 200 words.'},
            {'role': 'user', 'content': f'Existing summary:\n{running_summary}\n\nNew turns:\n{format(new_messages)}'}
        ],
        max_tokens=500,
    )
    running_summary = response.choices[0].message.content

Ringkasan Berstruktur

Paksa ringkasan mengekstrak medan tertentu:

summary_schema = {
    'topics_discussed': '...',
    'user_facts': {'name': '...', 'preferences': '...'},
    'open_questions': ['...'],
    'decisions_made': ['...']
}
# Use json_object response_format to enforce.
import json
print(json.dumps(summary_schema, indent=2))

Ringkasan Bertingkat

Untuk sejarah yang sangat panjang:

Ringkasan bagi setiap 100 giliran (peringkat pertengahan)
Ringkasan bagi setiap 1000 giliran (peringkat tinggi)
Ringkasan sepanjang hayat (peringkat ekstrem)

Masukkan hanya peringkat yang sesuai ke dalam konteks.

Kehilangan Perincian

Ringkasan kehilangan petikan khusus dan susunan kata yang tepat. Jika pengguna bertanya "apakah sebenarnya yang saya katakan tentang harga tadi?", model tidak dapat menjawabnya.

Untuk ingatan semula secara verbatim, anda memerlukan konteks yang lebih besar atau arkib carian vektor.

Gabungkan Ringkasan dan Arkib Vektor

Dapatkan manfaat kedua-duanya:

Ringkaskan giliran lama ke dalam mesej sistem
ALSO benamkan setiap giliran ke dalam gedung vektor
Jika pengguna meminta butiran khusus, dapatkan teks verbatim daripada gedung vektor

Kualiti Ringkasan Penting

Ringkasan yang teruk lebih buruk daripada tiada ringkasan. Gunakan model yang murah tetapi berkeupayaan (gpt-4o-mini, haiku) — bukan peringkat paling murah — untuk panggilan peringkasan.

Kemas Kini Ringkasan Mahal

Meringkaskan 8000 token perbualan ialah panggilan LLM sebenar — 1-2 saat, 0.5 sen. Lakukan secara tak segerak antara giliran dan bukannya pada laluan kritikal.

Tolak Ansur Ringkasan

Apakah kompromi utama apabila menggunakan peringkasan sebagai memori?

Jawab dalam pelajaran interaktif

Ringkasan

Peringkasan ialah cara murah untuk memanjangkan memori. Gabungkannya dengan pengambilan vektor untuk mendapatkan semula petikan yang tepat.

Percuma untuk bermula

Pelajari Ejen AI dengan tutor kecerdasan buatan — percuma

Tulis dan jalankan kod sebenar dalam pelayar anda, dapatkan bantuan segera daripada tutor kecerdasan buatan yang tersedia 24/7, dan sambung semula dari tempat anda berhenti di web atau dalam aplikasi.

Kursus: 60
Pelajaran: 239

Mula belajar secara percuma Lihat kursus penuh

Soalan Lazim

Adakah pelajaran “Peringkasan sebagai Pemampatan” percuma?

Ya — teks penuh “Peringkasan sebagai Pemampatan” boleh dibaca secara percuma di web ini. Untuk berlatih secara interaktif menggunakan penyunting kod terbina dalam dan tutor kecerdasan buatan 24/7, serta membuka kunci baki kursus Ejen AI, tingkat taraf kepada CoddyKit PRO. Kursus Ejen AI merangkumi sejumlah 4 pelajaran.

Apakah yang akan saya pelajari dalam “Peringkasan sebagai Pemampatan”?

Gantikan giliran lama secara berkala dengan ringkasan berterusan, sambil menukar ketepatan ingatan dengan ruang dalam tetingkap konteks. Anda berlatih Ejen AI menggunakan kod praktikal yang dijalankan terus dalam pelayar, manakala tutor kecerdasan buatan 24/7 menjawab soalan anda semasa anda mengikuti pelajaran.

Adakah saya memerlukan pengalaman untuk memulakan Ejen AI?

Tiada pengalaman terdahulu diperlukan. Pembelajaran Ejen AI di CoddyKit disusun untuk pelajar daripada peringkat pemula hingga lanjutan, jadi anda boleh bermula di sini atau dari awal dan belajar mengikut kadar anda sendiri. Ini ialah pelajaran 3 daripada 4.

Berapa lamakah pelajaran “Peringkasan sebagai Pemampatan” diambil?

Kebanyakan pelajaran CoddyKit mengambil masa kira-kira 5–10 minit. Setiap pelajaran ringkas dan interaktif, jadi anda boleh membuat kemajuan secara berterusan dan menyambung tepat dari tempat anda berhenti di web atau aplikasi.

Bolehkah saya menulis dan menjalankan kod dalam pelajaran Ejen AI ini?

Ya. Setiap pelajaran Ejen AI menyertakan penyunting kod terbina dalam, jadi anda boleh menulis dan menjalankan kod sebenar terus dalam pelayar serta menerima maklum balas kecerdasan buatan serta-merta — tanpa memerlukan persediaan setempat.

Semua pelajaran dalam kursus ini

Memori Jangka Pendek dalam Tetingkap Konteks
Sebab Konteks Panjang Tidak Berkembang dengan Baik
Peringkasan sebagai Pemampatan
Storan Memori Mudah (Nilai Kunci)

← Kembali ke Ejen AI