Quando il fine-tuning è migliore del prompting
Usi il fine-tuning per attività ristrette, formati personalizzati o per accorciare i prompt, non per insegnare nuovi fatti
Quando il fine-tuning è migliore del prompting è una lezione AI Agents gratuita su CoddyKit. Questa è la lezione 1 di 4. Puoi leggere la lezione completa qui gratuitamente — poi esercitati direttamente nel browser con un editor di codice integrato e un tutor IA disponibile 24/7. Fa parte del percorso di apprendimento AI Agents, e i tuoi progressi si sincronizzano tra il web e l'app CoddyKit. Il corso AI Agents include 4 lezioni in totale.
Prima il prompting, poi il fine-tuning
Esaurite sempre le possibilità del prompting prima di ricorrere al fine-tuning:
- Miglior prompt di sistema
- Esempi few-shot
- Descrizioni degli strumenti
- Modello migliore
- Output strutturati / Pydantic
- RAG
- ... POI il fine-tuning
Quando il fine-tuning è utile
- Formato o stile specifico — il vostro linguaggio di output YAML personalizzato
- Dominio ristretto — ambito medico, legale o revisioni del codice
- Latenza — prompt brevi (senza esempi few-shot) -> inferenza più veloce
- Costo — prompt più brevi -> meno token fatturati
- Persona coerente — voce del personaggio, tono del brand
Quando il fine-tuning è dannoso
- Insegnare fatti — RAG è migliore. I fine-tuning dimenticano i fatti
- Ragionamento generale — i modelli frontier sono già eccellenti
- Aggiornamenti frequenti — il riaddestramento è lento
- Dataset molto piccoli — meno di 100 esempi raramente producono risultati apprezzabili
Fine-tuning di modelli proprietari
Sia OpenAI sia Anthropic offrono API per il fine-tuning:
# OpenAI:
client.fine_tuning.jobs.create(
training_file='file-abc',
model='gpt-4o-mini-2024-07-18'
)Fine-tuning di modelli open
Per Llama/Mistral/Qwen, avete il controllo completo. Strumenti:
- Unsloth — il più veloce, con un basso utilizzo di VRAM
- Axolotl — basato sulla configurazione e completo
- LLaMA-Factory — alternativa sviluppata da un team cinese
- HuggingFace TRL — ufficiale e flessibile
Fine-tuning completo e PEFT
Due approcci:
- Completo — aggiornate ogni peso. È costoso (richiede un'enorme quantità di VRAM).
- PEFT / LoRA — addestrate piccoli livelli adapter. Costa 100 volte meno e offre una qualità simile per la maggior parte delle attività.
Costo del fine-tuning (OpenAI)
Valori approssimativi (metà del 2025):
- Addestramento: $0,003 / 1.000 token
- Inferenza sul modello ottimizzato: un po' più costosa rispetto al modello di base
- Decine di migliaia di esempi: costo totale dell'addestramento pari a $20-200
Costo del fine-tuning (self-hosted)
Un'ora su 8xH100: circa $100 con Lambda Labs. Un LoRA su Llama 70B con 10.000 campioni: circa $50-150 in totale.
Regola pratica sul volume dei dati
- 50 esempi — utili solo per stile o formato
- 500 esempi — miglioramenti significativi
- 5.000 o più esempi — nuova capacità sostanziale
- 50.000 o più esempi — rendimenti decrescenti rispetto alla qualità del dataset
Da dove provengono i dati?
- Tracce di produzione (con correzioni)
- Generazione sintetica da parte di un modello più potente
- Etichettatura umana
- Dataset pubblici
Scelta tra fine-tuning, RAG e prompting
| Obiettivo | Approccio migliore |
|---|---|
| Nuovi fatti | RAG |
| Nuovo formato | Fine-tuning (o un prompt efficace) |
| Nuovo stile | Fine-tuning |
| Ragionamento migliore | Modello più potente |
| Costo o latenza inferiori | Modello più piccolo + fine-tuning |
Valutazione prima e dopo
Esegua sempre il benchmark del modello sottoposto a fine-tuning rispetto al modello di base sul PROPRIO set di valutazione. A volte il fine-tuning peggiora i risultati: sia pronto a scartarlo.
Il motivo migliore per il fine-tuning
Qual è il motivo MIGLIORE per eseguire il fine-tuning?
Riepilogo
Inizi dal prompt; esegua il fine-tuning solo per esigenze specifiche di formato, stile o dominio. Utilizzi PEFT/LoRA per contenere i costi. Esegua sempre la valutazione prima e dopo.
Impara AI Agents con un tutor IA — gratis
Scrivi ed esegui vero codice nel tuo browser, ricevi aiuto istantaneo da un tutor IA disponibile 24/7, e riprendi da dove hai lasciato sul web o nell'app.
- Corsi
- 60
- Lezioni
- 239
Domande Frequenti
La lezione «Quando il fine-tuning è migliore del prompting» è gratuita?
Sì — il testo completo di «Quando il fine-tuning è migliore del prompting» è gratuito qui sul web. Per esercitarvi in modo interattivo (un editor di codice integrato e un tutor IA 24/7) e sbloccare il resto del corso AI Agents, passa a CoddyKit PRO. Il corso AI Agents include 4 lezioni in totale.
Cosa imparerò in «Quando il fine-tuning è migliore del prompting»?
Usi il fine-tuning per attività ristrette, formati personalizzati o per accorciare i prompt, non per insegnare nuovi fatti Eserciti AI Agents con codice pratico che esegui direttamente nel browser, e un tutor IA 24/7 risponde alle tue domande mentre lavori sulla lezione.
Ho bisogno di esperienza per iniziare AI Agents?
Non è richiesta alcuna esperienza precedente. AI Agents su CoddyKit è strutturato per principianti e studenti avanzati, quindi puoi iniziare da qui o dall'inizio e procedere al tuo ritmo. Questa è la lezione 1 di 4.
Quanto tempo richiede la lezione «Quando il fine-tuning è migliore del prompting»?
La maggior parte delle lezioni CoddyKit richiede circa 5–10 minuti. Ogni lezione è breve e interattiva, quindi fai progressi costanti e riprendi esattamente da dove hai lasciato su web e app.
Posso scrivere ed eseguire codice in questa lezione AI Agents?
Sì. Ogni lezione AI Agents include un editor di codice integrato, quindi scrivi ed esegui codice reale direttamente nel tuo browser e ricevi feedback istantaneo dall'IA — nessuna configurazione locale necessaria.
Tutte le lezioni di questo corso
- Quando il fine-tuning è migliore del prompting
- Raccolta dei dati: traiettorie e riproduzione dei trace
- LoRA e QLoRA per un tuning conveniente
- Valutare i modelli ottimizzati rispetto al modello base