Tecniche di compressione dei prompt
Apprenda metodi per ridurre la lunghezza dei prompt mantenendo le informazioni essenziali, risparmiando token e migliorando la velocità.
Tecniche di compressione dei prompt è una lezione AI Prompt Engineering gratuita su CoddyKit. Questa è la lezione 1 di 3. Puoi leggere la lezione completa qui gratuitamente — poi esercitati direttamente nel browser con un editor di codice integrato e un tutor IA disponibile 24/7. Fa parte del percorso di apprendimento AI Prompt Engineering, e i tuoi progressi si sincronizzano tra il web e l'app CoddyKit. Il corso AI Prompt Engineering include 3 lezioni in totale.
Introduzione alla compressione dei prompt
Benvenuto/a a Tecniche di compressione dei prompt! In questa lezione imparerà a rendere i prompt più brevi ed efficienti senza perderne l'efficacia.
Perché è importante?
- Risparmiare sui costi: Le API degli LLM spesso applicano una tariffa in base al numero di token.
- Migliorare la velocità: Prompt più brevi possono ridurre i tempi di risposta.
- Espandere il contesto: Inserire più informazioni nella finestra di contesto dell'LLM.
Comprendere i token
Prima di procedere alla compressione, cerchiamo di comprendere rapidamente i token. Gli LLM elaborano il testo suddividendolo in unità più piccole, che possono essere parole, parti di parole o segni di punteggiatura.
Ogni token ha un costo e occupa spazio nella «finestra di contesto» dell'LLM, ovvero la quantità massima di testo che può elaborare in una volta.
Lo si può paragonare alla preparazione di una valigia: si desidera inserire la maggior quantità possibile di oggetti utili!
Metodo 1: rimuovere le ridondanze
Il modo più semplice per comprimere un prompt consiste nell'eliminare parole non necessarie o frasi ripetitive. Sia diretto/a ed eviti di esprimere più volte lo stesso concetto.
Confrontiamo un prompt prolisso con uno conciso. Noti la riduzione della «lunghezza» (che è correlata al numero di token).
def main():
verbose_prompt = """
I want you to please tell me what the main sentiment is for the following customer feedback.
The customer feedback is specifically about our new product launch.
Please categorize the sentiment as either positive, negative, or neutral.
Also, identify any specific issues or praises mentioned by the customer within the feedback.
"""
concise_prompt = """
Analyze this customer feedback for sentiment (positive, negative, neutral).
Identify specific issues or praises regarding our new product launch.
"""
print("Verbose characters (approx tokens):", len(verbose_prompt))
print("Concise characters (approx tokens):", len(concise_prompt))
if __name__ == "__main__":
main()Metodo 2: riassumere i contesti lunghi
Se deve fare riferimento a un testo molto lungo (come un articolo o un documento), non è sempre necessario includerlo per intero.
Provi invece a riassumerlo. Può persino utilizzare un LLM per riassumere prima il testo lungo e poi usare quel riepilogo nel prompt principale!
def main():
long_article = """
The recent study on renewable energy sources highlights significant advancements in solar panel efficiency.
Researchers at the Solar Institute have developed a new photovoltaic material that converts 25% more sunlight into electricity.
This breakthrough could drastically reduce the cost of solar power and accelerate its adoption globally.
Furthermore, the report also touches upon improvements in wind turbine technology, particularly in offshore installations,
which are now capable of generating power more consistently even in varying weather conditions.
The implications for sustainable development are immense, promising a cleaner future.
"""
summarized_context = """
New solar panel material boosts efficiency by 25%, cutting costs. Wind turbine tech also improved,
especially offshore. This promises a cleaner, sustainable future.
"""
print("Original context characters:", len(long_article))
print("Summarized context characters:", len(summarized_context))
if __name__ == "__main__":
main()Metodo 3: estrarre le informazioni chiave
A volte anche un riepilogo completo è eccessivo. Per alcune attività potrebbero servire soltanto parole chiave, entità o fatti principali tratti da un testo più ampio.
Anziché riassumere, chieda all'LLM (o a una fase di pre-elaborazione) di estrarre soltanto le informazioni più importanti e pertinenti all'attività principale.
def main():
customer_review = """
The new smartphone has an amazing camera, truly stunning photos! But the battery life is terrible,
it barely lasts half a day. The screen is vibrant, though, and the processor is super fast.
"""
key_features = """
Keywords: 'amazing camera', 'stunning photos', 'terrible battery life', 'vibrant screen', 'super fast processor'.
"""
print("Original review characters:", len(customer_review))
print("Extracted keywords characters:", len(key_features))
if __name__ == "__main__":
main()Metodo 4: condensare le istruzioni
Spesso è possibile rendere più concise anche le istruzioni. Rimuova introduzioni superflue, frasi ridondanti e un linguaggio eccessivamente cortese (a meno che non sia richiesto da una personalità specifica).
Vada direttamente al punto, indicando ciò che desidera che l'LLM faccia. Comandi chiari e brevi sono generalmente più efficaci di istruzioni lunghe e prolisse.
Metodo 5: eliminare i dati irrilevanti
Esamini il prompt alla ricerca di informazioni che non contribuiscono direttamente all'attività in questione. Se un dato o un contesto non è fondamentale affinché l'LLM generi l'output desiderato, lo rimuova.
Ogni informazione presente nel prompt dovrebbe avere uno scopo. In caso contrario, aggiunge soltanto rumore e token.
Combinare le tecniche
Per ottenere la massima efficienza, spesso è utile combinare diverse tecniche di compressione:
- Inizi rimuovendo le ridondanze più evidenti.
- Riassuma o estragga i punti chiave da eventuali testi introduttivi troppo lunghi.
- Condensi le istruzioni, rendendole il più chiare e brevi possibile.
- Infine, elimini tutti i dati che non sono assolutamente essenziali.
Questo approccio a più livelli garantisce un prompt essenziale e mirato.
Impatto e vantaggi
Comprimendo attivamente i prompt, può ottenere diversi vantaggi:
- Costi API inferiori: Pagare meno per ogni richiesta.
- Risposte più rapide: Ridurre il tempo di elaborazione dell'LLM.
- Contesti più ampi: Inserire problemi o dati più complessi nella memoria di lavoro del modello.
- Maggiore focalizzazione: Consentire agli LLM di concentrarsi meglio sulle informazioni essenziali.
È un vantaggio per le prestazioni e per il budget!
Verifichi la Sua comprensione
Quali delle seguenti sono tecniche efficaci per la compressione dei prompt?
Riepilogo della lezione
Ottimo lavoro! Ha appreso i principi fondamentali della compressione dei prompt.
Abbiamo trattato:
- Perché la compressione è importante (token, costi, velocità e contesto).
- Tecniche come la rimozione delle ridondanze, la sintesi, l'estrazione di parole chiave, la condensazione delle istruzioni e l'eliminazione dei dati irrilevanti.
- I vantaggi di un prompt ben compresso.
Continui a esercitarsi con questi metodi per rendere più efficienti e convenienti le interazioni con gli LLM!
Domande Frequenti
La lezione «Tecniche di compressione dei prompt» è gratuita?
Sì — il testo completo di «Tecniche di compressione dei prompt» è gratuito qui sul web. Per esercitarvi in modo interattivo (un editor di codice integrato e un tutor IA 24/7) e sbloccare il resto del corso AI Prompt Engineering, passa a CoddyKit PRO. Il corso AI Prompt Engineering include 3 lezioni in totale.
Cosa imparerò in «Tecniche di compressione dei prompt»?
Apprenda metodi per ridurre la lunghezza dei prompt mantenendo le informazioni essenziali, risparmiando token e migliorando la velocità. Eserciti AI Prompt Engineering con codice pratico che esegui direttamente nel browser, e un tutor IA 24/7 risponde alle tue domande mentre lavori sulla lezione.
Ho bisogno di esperienza per iniziare AI Prompt Engineering?
Non è richiesta alcuna esperienza precedente. AI Prompt Engineering su CoddyKit è strutturato per principianti e studenti avanzati, quindi puoi iniziare da qui o dall'inizio e procedere al tuo ritmo. Questa è la lezione 1 di 3.
Quanto tempo richiede la lezione «Tecniche di compressione dei prompt»?
La maggior parte delle lezioni CoddyKit richiede circa 5–10 minuti. Ogni lezione è breve e interattiva, quindi fai progressi costanti e riprendi esattamente da dove hai lasciato su web e app.
Posso scrivere ed eseguire codice in questa lezione AI Prompt Engineering?
Sì. Ogni lezione AI Prompt Engineering include un editor di codice integrato, quindi scrivi ed esegui codice reale direttamente nel tuo browser e ricevi feedback istantaneo dall'IA — nessuna configurazione locale necessaria.
Tutte le lezioni di questo corso
- Tecniche di compressione dei prompt
- Ottimizzazione dei costi delle chiamate agli LLM
- Fine-tuning e prompting avanzato