AI-agenter · Lektion

Reflektions- och självkritikloopar

Efter varje steg frågar Ni modellen ”fungerade det? vad händer nu?” – den billigaste vägen till bättre tillförlitlighet.

Lektion 4 av 415 steg

Reflektions- och självkritikloopar är en gratis lektion i AI-agenter på CoddyKit. Detta är lektion 4 av 4. Ni kan läsa hela lektionen gratis nedan och sedan öva praktiskt i webbläsaren med en inbyggd kodredigerare och en AI-handledare som är tillgänglig dygnet runt. Den ingår i lärvägen för AI-agenter, och Era framsteg synkroniseras mellan webben och CoddyKit-appen. Kursen i AI-agenter innehåller totalt 4 lektioner.

Delar av den här lektionen har ännu inte översatts och visas på engelska.

Vad är reflektion?

Reflektion innebär att agenten granskar sina tidigare åtgärder och frågar: "Vad gick bra? Vad gick dåligt? Vad bör jag göra annorlunda?"

Det billigaste sättet att öka agentsystemens tillförlitlighet.

Reflexion-artikeln

Shinn med flera introducerade Reflexion 2023. Efter varje misslyckat försök skriver agenten en självkritik och använder den som vägledning för nästa försök. Kvaliteten förbättrades dramatiskt.

A Simple Reflection Loop

def with_reflection(task, max_attempts=3):
    reflections = []
    for attempt in range(max_attempts):
        result = agent.run(task, hints=reflections)
        if result.success:
            return result
        reflection = llm.invoke(f'''
Task: {task}
Attempt: {attempt + 1}
What went wrong: {result.error}

Reflect on what to do differently next time.
''').content
        reflections.append(reflection)
    return last_result

Självkritik utan misslyckande

Agenten kan också få granska lyckade resultat kritiskt:

critique_prompt = '''
Review your answer for:
1. Is it factually correct?
2. Is it complete?
3. Are there obvious improvements?

If improvements possible, return REVISE: <revised answer>.
Otherwise return ACCEPT.
'''

Kritiker som separat modell

Använd en annan modell för granskningen:

Minskar gemensamma bias
Kan bli billigare (liten kritiker, stor författarmodell)
Eller tvärtom (liten författarmodell, stor kritiker)

Reflektion på stegnivå

Reflektera efter varje STEG, inte bara i slutet:

thought = 'I will use search_kb'
action = call_search_kb(...)
observation = '...'
reflection = llm.invoke(f'Did that step help? Should I try a different tool next?').content

Kostnadsmedvetenhet

Reflektion fördubblar antalet LLM-anrop. Hoppa över den i fördröjningskritiska flöden. För resultat av hög kvalitet är den värd kostnaden.

Undvik inställsam reflektion

Om man frågar "fungerade det?" svarar modellen ofta "ja". Tvinga fram en kritisk utvärdering:

critique_prompt = 'List 3 SPECIFIC PROBLEMS with the previous answer. If you cannot find any, say WHY there are none.'

Reflektionsminne

Spara reflektioner i en beständig lagring. Efter många sessioner bygger agenten upp ett bibliotek med "lärdomar":

save_reflection({
    'task_type': 'sql-write',
    'lesson': 'Always check if table is partitioned before running heavy aggregations.',
    'created_at': now()
})

Hämta relevanta tidigare reflektioner

Hämta lärdomar som matchar uppgiftstypen när en ny uppgift påbörjas:

lessons = vector_db.search(embed(task_description), filter={'type': 'reflection'}, k=3)
prompt += '\nLessons learned from past tasks:\n' + '\n'.join(lessons)

En konkret framgång

Om man lägger till "Efter varje slutfört steg ska du kort notera vad som kan gå fel och dubbelkontrollera" i en prompt för en kodagent minskar felfrekvensen vanligtvis med 15–30 % i benchmarktester.

Verifierare–generator

En variant är att låta en LLM generera och en annan verifiera. Om verifieraren avvisar resultatet försöker generatorn igen med orsaken till avvisningen. Detta används i många produktionsagenter i dag.

När man INTE bör reflektera

Engångsuppgifter som redan är billiga
Chatt i realtid
Latenskritiska flöden

Insikten från Reflexion

Vilken är den viktigaste insikten från artikeln om Reflexion?

Besvara frågan i den interaktiva lektionen

Sammanfattning

Reflektion är ett billigt sätt att höja kvaliteten. Kritiserar efter misslyckanden, sparar lärdomar och hämtar dem för liknande framtida uppgifter. Använd om möjligt en separat kritikmodell.

Gratis att börja

Lär dig AI-agenter med en AI-lärare – gratis

Skriv och kör riktig kod i webbläsaren, få omedelbar hjälp av en AI-lärare dygnet runt och fortsätt där du slutade – på webben eller i appen.

Kurser: 60
Lektioner: 239

Börja lära dig gratis Visa hela kursen

Vanliga frågor

Är lektionen ”Reflektions- och självkritikloopar” gratis?

Ja – hela texten till ”Reflektions- och självkritikloopar” kan läsas gratis här på webben. Om Ni vill öva interaktivt med en inbyggd kodredigerare och en AI-handledare som är tillgänglig dygnet runt och låsa upp resten av kursen i AI-agenter, kan Ni uppgradera till CoddyKit PRO. Kursen i AI-agenter innehåller totalt 4 lektioner.

Vad lär jag mig i ”Reflektions- och självkritikloopar”?

Efter varje steg frågar Ni modellen ”fungerade det? vad händer nu?” – den billigaste vägen till bättre tillförlitlighet. Ni övar på AI-agenter med praktisk kod som körs direkt i webbläsaren, medan en AI-handledare som är tillgänglig dygnet runt svarar på Era frågor under lektionen.

Behöver jag någon erfarenhet för att börja lära mig AI-agenter?

Du behöver inga förkunskaper. Utbildningen i AI-agenter på CoddyKit är upplagd för allt från nybörjare till avancerade elever, så att du kan börja här eller från början och gå fram i din egen takt. Detta är lektion 4 av 4.

Hur lång tid tar lektionen ”Reflektions- och självkritikloopar”?

De flesta CoddyKit-lektioner tar cirka 5–10 minuter. Varje lektion är kort och interaktiv, så att du gör stadiga framsteg och kan fortsätta precis där du slutade – på webben eller i appen.

Kan jag skriva och köra kod i den här AI-agenter-lektionen?

Ja. Varje AI-agenter-lektion innehåller en inbyggd kodredigerare, så att du kan skriva och köra riktig kod direkt i webbläsaren och få omedelbar AI-feedback – utan lokal installation.

Alla lektioner i den här kursen

← Tillbaka till AI-agenter