Cicli di riflessione e autocritica
Dopo ogni passaggio chieda al modello «ha funzionato? cosa facciamo ora?»: il modo più economico per aumentare l’affidabilità
Cicli di riflessione e autocritica è una lezione AI Agents gratuita su CoddyKit. Questa è la lezione 4 di 4. Puoi leggere la lezione completa qui gratuitamente — poi esercitati direttamente nel browser con un editor di codice integrato e un tutor IA disponibile 24/7. Fa parte del percorso di apprendimento AI Agents, e i tuoi progressi si sincronizzano tra il web e l'app CoddyKit. Il corso AI Agents include 4 lezioni in totale.
Parti di questa lezione non sono ancora state tradotte e vengono mostrate in inglese.
Che cos'è la riflessione?
La riflessione si verifica quando l'agente esamina le proprie azioni passate e si chiede: "Che cosa è andato bene? Che cosa è andato male? Che cosa dovrei fare diversamente?"
È il modo più economico per migliorare l'affidabilità degli agenti.
L'articolo Reflexion
Shinn et al. 2023 hanno introdotto Reflexion. Dopo ogni tentativo fallito, l'agente scrive un'autocritica e la utilizza come guida per il tentativo successivo. La qualità è aumentata drasticamente.
A Simple Reflection Loop
def with_reflection(task, max_attempts=3):
reflections = []
for attempt in range(max_attempts):
result = agent.run(task, hints=reflections)
if result.success:
return result
reflection = llm.invoke(f'''
Task: {task}
Attempt: {attempt + 1}
What went wrong: {result.error}
Reflect on what to do differently next time.
''').content
reflections.append(reflection)
return last_resultAutocritica senza errori
Può anche chiedere all'agente di sottoporre ad autocritica gli output riusciti:
critique_prompt = '''
Review your answer for:
1. Is it factually correct?
2. Is it complete?
3. Are there obvious improvements?
If improvements possible, return REVISE: <revised answer>.
Otherwise return ACCEPT.
'''Il critico come modello separato
Utilizzi un modello diverso per la critica:
- Riduce i pregiudizi condivisi
- Può essere più economico (critico piccolo, autore grande)
- O viceversa (autore piccolo, critico grande)
Riflessione a livello di passaggio
Rifletta dopo ogni PASSAGGIO, non solo alla fine:
thought = 'I will use search_kb'
action = call_search_kb(...)
observation = '...'
reflection = llm.invoke(f'Did that step help? Should I try a different tool next?').contentConsapevolezza dei costi
La riflessione raddoppia le chiamate all'LLM. Per i percorsi in cui la latenza è critica, la ometta. Per output di alta qualità, vale la pena utilizzarla.
Evitare la riflessione compiacente
Se chiedete «ha funzionato?», il modello spesso risponde «sì». Forzate una valutazione critica:
critique_prompt = 'List 3 SPECIFIC PROBLEMS with the previous answer. If you cannot find any, say WHY there are none.'Memoria delle riflessioni
Salvate le riflessioni in un archivio persistente. Nel corso di molte sessioni, l'agente costruisce una libreria di «lezioni apprese»:
save_reflection({
'task_type': 'sql-write',
'lesson': 'Always check if table is partitioned before running heavy aggregations.',
'created_at': now()
})Recuperare le riflessioni passate pertinenti
All'inizio di una nuova attività, recuperate le lezioni corrispondenti al tipo di attività:
lessons = vector_db.search(embed(task_description), filter={'type': 'reflection'}, k=3)
prompt += '\nLessons learned from past tasks:\n' + '\n'.join(lessons)Un risultato concreto
Aggiungere «Dopo aver completato ogni passaggio, annotate brevemente cosa potrebbe andare storto e verificate nuovamente» al prompt di un agente per il codice riduce in genere il tasso di bug del 15-30% nei benchmark.
Verificatore-generatore
Variante: fate generare il contenuto a un LLM e verificatelo con un altro. Se il verificatore rifiuta il risultato, il generatore riprova indicando il motivo del rifiuto. È usato oggi in molti agenti in produzione.
Quando NON riflettere
- Attività one-shot già economiche
- Chat in tempo reale
- Percorsi critici per la latenza
L'intuizione di Reflexion
Qual è l'intuizione chiave dell'articolo su Reflexion?
Riepilogo
La riflessione è un modo economico per migliorare la qualità. Analizzate gli errori dopo i fallimenti, salvate le lezioni e recuperatele per attività simili future. Quando possibile, usate un modello critico separato.
Impara AI Agents con un tutor IA — gratis
Scrivi ed esegui vero codice nel tuo browser, ricevi aiuto istantaneo da un tutor IA disponibile 24/7, e riprendi da dove hai lasciato sul web o nell'app.
- Corsi
- 60
- Lezioni
- 239
Domande Frequenti
La lezione «Cicli di riflessione e autocritica» è gratuita?
Sì — il testo completo di «Cicli di riflessione e autocritica» è gratuito qui sul web. Per esercitarvi in modo interattivo (un editor di codice integrato e un tutor IA 24/7) e sbloccare il resto del corso AI Agents, passa a CoddyKit PRO. Il corso AI Agents include 4 lezioni in totale.
Cosa imparerò in «Cicli di riflessione e autocritica»?
Dopo ogni passaggio chieda al modello «ha funzionato? cosa facciamo ora?»: il modo più economico per aumentare l’affidabilità Eserciti AI Agents con codice pratico che esegui direttamente nel browser, e un tutor IA 24/7 risponde alle tue domande mentre lavori sulla lezione.
Ho bisogno di esperienza per iniziare AI Agents?
Non è richiesta alcuna esperienza precedente. AI Agents su CoddyKit è strutturato per principianti e studenti avanzati, quindi puoi iniziare da qui o dall'inizio e procedere al tuo ritmo. Questa è la lezione 4 di 4.
Quanto tempo richiede la lezione «Cicli di riflessione e autocritica»?
La maggior parte delle lezioni CoddyKit richiede circa 5–10 minuti. Ogni lezione è breve e interattiva, quindi fai progressi costanti e riprendi esattamente da dove hai lasciato su web e app.
Posso scrivere ed eseguire codice in questa lezione AI Agents?
Sì. Ogni lezione AI Agents include un editor di codice integrato, quindi scrivi ed esegui codice reale direttamente nel tuo browser e ricevi feedback istantaneo dall'IA — nessuna configurazione locale necessaria.
Tutte le lezioni di questo corso
- Decomposizione gerarchica delle attività
- Stack degli obiettivi e backtracking
- Modelli del mondo e lookahead
- Cicli di riflessione e autocritica