การสรุปเนื้อหาในฐานะการบีบอัด

การบีบอัดเป็นหน่วยความจำ

เมื่อใดควรสรุป

สรุปรอบสนทนาที่เก่ากว่า

def compact(messages, keep_recent=10):
    system = messages[0]
    old = messages[1:-keep_recent]
    recent = messages[-keep_recent:]
    if not old:
        return messages
    summary = summarise(old)
    return [
        system,
        {'role': 'system', 'content': f'Earlier conversation summary:\n{summary}'},
        *recent
    ]

พรอมป์ต์สำหรับการสรุป

def summarise(messages):
    text = '\n'.join(f'{m["role"]}: {m["content"]}' for m in messages)
    response = client.chat.completions.create(
        model='gpt-4o-mini',
        messages=[
            {'role': 'system', 'content': 'Summarise this conversation in 5 bullet points. Preserve facts, decisions, and pending TODOs.'},
            {'role': 'user', 'content': text}
        ],
        max_tokens=300,
    )
    return response.choices[0].message.content

บทสรุปต่อเนื่อง

running_summary = ''

def extend_summary(new_messages):
    global running_summary
    response = client.chat.completions.create(
        model='gpt-4o-mini',
        messages=[
            {'role': 'system', 'content': 'Extend the existing summary with the new turns. Keep it under 200 words.'},
            {'role': 'user', 'content': f'Existing summary:\n{running_summary}\n\nNew turns:\n{format(new_messages)}'}
        ],
        max_tokens=500,
    )
    running_summary = response.choices[0].message.content

บทสรุปแบบมีโครงสร้าง

summary_schema = {
    'topics_discussed': '...',
    'user_facts': {'name': '...', 'preferences': '...'},
    'open_questions': ['...'],
    'decisions_made': ['...']
}
# Use json_object response_format to enforce.
import json
print(json.dumps(summary_schema, indent=2))

บทสรุปแบบลำดับชั้น

รายละเอียดสูญหาย

ใช้ทั้งบทสรุปและคลังเวกเตอร์

คุณภาพของบทสรุปมีความสำคัญ

การอัปเดตบทสรุปมีค่าใช้จ่ายสูง

ข้อแลกเปลี่ยนของบทสรุป

ทบทวน