LangChain / RAG / vektordatabaser · Lektion

Hukommelse og tilstand i agentisk RAG

Giv Deres RAG-agent korttids- og langtidshukommelse, så den kan føre samtaler og huske fakta på tværs af ture.

Lektion 4 af 413 trin

Hukommelse og tilstand i agentisk RAG er en gratis LangChain / RAG / vektordatabaser-lektion på CoddyKit. Dette er lektion 4 af 4. Du kan læse hele lektionen gratis nedenfor — og derefter øve dig praktisk i browseren med en indbygget kodeeditor og en AI-vejleder, der er tilgængelig døgnet rundt. Den er en del af læringsforløbet i LangChain / RAG / vektordatabaser, og dine fremskridt synkroniseres på tværs af nettet og CoddyKit-appen. LangChain / RAG / vektordatabaser-kurset indeholder 4 lektioner i alt.

Hvorfor agenter har brug for hukommelse

En tilstandsløs agent glemmer alt efter hvert kald. Hukommelse lader en agent holde styr på samtalen, huske brugerpræferencer og undgå at gentage hentninger.

Korttids- kontra langtidshukommelse

Korttidshukommelse indeholder den aktuelle samtale i kontekstvinduet. Langtidshukommelse bevarer fakta på tværs af sessioner, ofte i et vektorlager eller en database.

Samtalebuffer

Den enkleste form for hukommelse gemmer hele meddelelseshistorikken og afspiller den ved hver tur, så modellen har den fulde kontekst.

history = []

def chat(user_msg):
    history.append({"role": "user", "content": user_msg})
    reply = llm.invoke(history)
    history.append({"role": "assistant", "content": reply})
    return reply

Grænsen for kontekstvinduet

Hvis hele historikken afspilles igen, løber modellen til sidst tør for kontekst. Du skal opsummere eller trimme ældre ture for at holde dig inden for tokenbudgettet.

Opsummeringshukommelse

Komprimer med jævne mellemrum gamle ture til en løbende opsummering, mens de seneste ture bevares ordret. Det bevarer hovedindholdet og frigiver tokens.

if len(history) > 20:
    summary = llm.invoke("Summarize: " + str(history[:-6]))
    history[:] = [{"role": "system", "content": summary}] + history[-6:]

Langtidshukommelse via vektorer

Gem varige fakta som embeddings. Hent relevante minder ved hjælp af lighed ved hver tur, og indsæt dem ligesom ved RAG over en vidensbase.

memory_store.add_texts(["User prefers metric units"])
relevant = memory_store.similarity_search(user_msg, k=3)

Valg af, hvad der skal huskes

Gem ikke alt. Udtræk varige, genanvendelige fakta, f.eks. præferencer, beslutninger og entiteter, og spring flygtig snak over for at holde langtidshukommelsen ren.

Tilstand ud over chat

Agenter holder også styr på ikke-samtalerelateret tilstand: hvilke værktøjer der blev kørt, mellemresultater og en notesblok med de ræsonnementstrin, der bruges til at planlægge den næste handling.

Tråd- og sessionsnøgler

I systemer med flere brugere skal du afgrænse hukommelsen efter et thread_id eller user_id, så samtaler aldrig lækkes mellem personer.

def get_history(thread_id):
    return store.get(thread_id, [])

def save(thread_id, messages):
    store[thread_id] = messages

Vedvarende lagring

For at hukommelsen skal overleve genstarter skal du understøtte den med en database eller en checkpointer i stedet for en ordbog i processen. LangGraph tilbyder checkpointere netop til dette.

Sådan samler du det hele

Kombiner en beskåret samtalebuffer til det seneste, opsummeringshukommelse til midten og vektorbaseret langtidshukommelse til varige fakta, alt sammen knyttet til sessionen.

Hurtigt tjek

Test din forståelse af agenthukommelse.

Opsummering

Du har føjet hukommelse til agenter:

  • Korttidshukommelse til den aktuelle chat
  • Opsummeringshukommelse for at holde dig inden for kontekstvinduet
  • Langtidshukommelse baseret på vektorer til varige fakta
  • Afgræns efter session, og gem vedvarende for at bevare data
Gratis at komme i gang

Lær LangChain / RAG / vektordatabaser med en AI-underviser — gratis

Skriv og kør rigtig kode i din browser, få øjeblikkelig hjælp fra en AI-underviser døgnet rundt, og fortsæt, hvor du slap, på web eller i appen.

Kurser
12
Lektioner
48

Ofte stillede spørgsmål

Er lektionen “Hukommelse og tilstand i agentisk RAG” gratis?

Ja — hele teksten til “Hukommelse og tilstand i agentisk RAG” kan læses gratis her på nettet. Hvis du vil øve dig interaktivt med en indbygget kodeeditor og en AI-vejleder døgnet rundt og få adgang til resten af LangChain / RAG / vektordatabaser-kurset, skal du opgradere til CoddyKit PRO. LangChain / RAG / vektordatabaser-kurset indeholder 4 lektioner i alt.

Hvad lærer jeg i “Hukommelse og tilstand i agentisk RAG”?

Giv Deres RAG-agent korttids- og langtidshukommelse, så den kan føre samtaler og huske fakta på tværs af ture. Du øver dig i LangChain / RAG / vektordatabaser med praktisk kode, som du kører direkte i browseren, og en AI-vejleder døgnet rundt besvarer dine spørgsmål, mens du arbejder dig gennem lektionen.

Skal jeg have erfaring for at begynde på LangChain / RAG / vektordatabaser?

Der kræves ingen tidligere erfaring. LangChain / RAG / vektordatabaser på CoddyKit er tilrettelagt for både begyndere og øvede, så du kan starte her eller fra begyndelsen og lære i dit eget tempo. Dette er lektion 4 af 4.

Hvor lang tid tager lektionen “Hukommelse og tilstand i agentisk RAG”?

De fleste CoddyKit-lektioner tager cirka 5–10 minutter. Hver lektion er kort og interaktiv, så du gør løbende fremskridt og kan fortsætte, hvor du slap – på både web og app.

Kan jeg skrive og køre kode i denne LangChain / RAG / vektordatabaser-lektion?

Ja. Alle LangChain / RAG / vektordatabaser-lektioner har en indbygget kodeeditor, så du kan skrive og køre rigtig kode direkte i din browser og få øjeblikkelig feedback fra AI – uden lokal opsætning.

Alle lektioner i dette kursus

  1. LangChain-agenter og værktøjskoncepter
  2. Opbygning af multi-agent-RAG-workflows
  3. Integration af eksterne API'er som værktøjer
  4. Hukommelse og tilstand i agentisk RAG
← Tilbage til LangChain / RAG / vektordatabaser