Hukommelse og tilstand i agentisk RAG
Giv Deres RAG-agent korttids- og langtidshukommelse, så den kan føre samtaler og huske fakta på tværs af ture.
Hukommelse og tilstand i agentisk RAG er en gratis LangChain / RAG / vektordatabaser-lektion på CoddyKit. Dette er lektion 4 af 4. Du kan læse hele lektionen gratis nedenfor — og derefter øve dig praktisk i browseren med en indbygget kodeeditor og en AI-vejleder, der er tilgængelig døgnet rundt. Den er en del af læringsforløbet i LangChain / RAG / vektordatabaser, og dine fremskridt synkroniseres på tværs af nettet og CoddyKit-appen. LangChain / RAG / vektordatabaser-kurset indeholder 4 lektioner i alt.
Hvorfor agenter har brug for hukommelse
En tilstandsløs agent glemmer alt efter hvert kald. Hukommelse lader en agent holde styr på samtalen, huske brugerpræferencer og undgå at gentage hentninger.
Korttids- kontra langtidshukommelse
Korttidshukommelse indeholder den aktuelle samtale i kontekstvinduet. Langtidshukommelse bevarer fakta på tværs af sessioner, ofte i et vektorlager eller en database.
Samtalebuffer
Den enkleste form for hukommelse gemmer hele meddelelseshistorikken og afspiller den ved hver tur, så modellen har den fulde kontekst.
history = []
def chat(user_msg):
history.append({"role": "user", "content": user_msg})
reply = llm.invoke(history)
history.append({"role": "assistant", "content": reply})
return replyGrænsen for kontekstvinduet
Hvis hele historikken afspilles igen, løber modellen til sidst tør for kontekst. Du skal opsummere eller trimme ældre ture for at holde dig inden for tokenbudgettet.
Opsummeringshukommelse
Komprimer med jævne mellemrum gamle ture til en løbende opsummering, mens de seneste ture bevares ordret. Det bevarer hovedindholdet og frigiver tokens.
if len(history) > 20:
summary = llm.invoke("Summarize: " + str(history[:-6]))
history[:] = [{"role": "system", "content": summary}] + history[-6:]Langtidshukommelse via vektorer
Gem varige fakta som embeddings. Hent relevante minder ved hjælp af lighed ved hver tur, og indsæt dem ligesom ved RAG over en vidensbase.
memory_store.add_texts(["User prefers metric units"])
relevant = memory_store.similarity_search(user_msg, k=3)Valg af, hvad der skal huskes
Gem ikke alt. Udtræk varige, genanvendelige fakta, f.eks. præferencer, beslutninger og entiteter, og spring flygtig snak over for at holde langtidshukommelsen ren.
Tilstand ud over chat
Agenter holder også styr på ikke-samtalerelateret tilstand: hvilke værktøjer der blev kørt, mellemresultater og en notesblok med de ræsonnementstrin, der bruges til at planlægge den næste handling.
Tråd- og sessionsnøgler
I systemer med flere brugere skal du afgrænse hukommelsen efter et thread_id eller user_id, så samtaler aldrig lækkes mellem personer.
def get_history(thread_id):
return store.get(thread_id, [])
def save(thread_id, messages):
store[thread_id] = messagesVedvarende lagring
For at hukommelsen skal overleve genstarter skal du understøtte den med en database eller en checkpointer i stedet for en ordbog i processen. LangGraph tilbyder checkpointere netop til dette.
Sådan samler du det hele
Kombiner en beskåret samtalebuffer til det seneste, opsummeringshukommelse til midten og vektorbaseret langtidshukommelse til varige fakta, alt sammen knyttet til sessionen.
Hurtigt tjek
Test din forståelse af agenthukommelse.
Opsummering
Du har føjet hukommelse til agenter:
- Korttidshukommelse til den aktuelle chat
- Opsummeringshukommelse for at holde dig inden for kontekstvinduet
- Langtidshukommelse baseret på vektorer til varige fakta
- Afgræns efter session, og gem vedvarende for at bevare data
Lær LangChain / RAG / vektordatabaser med en AI-underviser — gratis
Skriv og kør rigtig kode i din browser, få øjeblikkelig hjælp fra en AI-underviser døgnet rundt, og fortsæt, hvor du slap, på web eller i appen.
- Kurser
- 12
- Lektioner
- 48
Ofte stillede spørgsmål
Er lektionen “Hukommelse og tilstand i agentisk RAG” gratis?
Ja — hele teksten til “Hukommelse og tilstand i agentisk RAG” kan læses gratis her på nettet. Hvis du vil øve dig interaktivt med en indbygget kodeeditor og en AI-vejleder døgnet rundt og få adgang til resten af LangChain / RAG / vektordatabaser-kurset, skal du opgradere til CoddyKit PRO. LangChain / RAG / vektordatabaser-kurset indeholder 4 lektioner i alt.
Hvad lærer jeg i “Hukommelse og tilstand i agentisk RAG”?
Giv Deres RAG-agent korttids- og langtidshukommelse, så den kan føre samtaler og huske fakta på tværs af ture. Du øver dig i LangChain / RAG / vektordatabaser med praktisk kode, som du kører direkte i browseren, og en AI-vejleder døgnet rundt besvarer dine spørgsmål, mens du arbejder dig gennem lektionen.
Skal jeg have erfaring for at begynde på LangChain / RAG / vektordatabaser?
Der kræves ingen tidligere erfaring. LangChain / RAG / vektordatabaser på CoddyKit er tilrettelagt for både begyndere og øvede, så du kan starte her eller fra begyndelsen og lære i dit eget tempo. Dette er lektion 4 af 4.
Hvor lang tid tager lektionen “Hukommelse og tilstand i agentisk RAG”?
De fleste CoddyKit-lektioner tager cirka 5–10 minutter. Hver lektion er kort og interaktiv, så du gør løbende fremskridt og kan fortsætte, hvor du slap – på både web og app.
Kan jeg skrive og køre kode i denne LangChain / RAG / vektordatabaser-lektion?
Ja. Alle LangChain / RAG / vektordatabaser-lektioner har en indbygget kodeeditor, så du kan skrive og køre rigtig kode direkte i din browser og få øjeblikkelig feedback fra AI – uden lokal opsætning.
Alle lektioner i dette kursus
- LangChain-agenter og værktøjskoncepter
- Opbygning af multi-agent-RAG-workflows
- Integration af eksterne API'er som værktøjer
- Hukommelse og tilstand i agentisk RAG