Prompt per riepilogo ed estrazione

I Large Language Model (LLM) sono strumenti potenti per elaborare grandi quantità di testo. Due attività fondamentali e molto utili che può svolgere con loro sono il riepilogo e l'estrazione.

Il riepilogo aiuta a comprendere rapidamente i punti principali di documenti lunghi. L'estrazione consente di individuare e recuperare dati specifici e strutturati. Padroneggiare queste tecniche fa risparmiare tempo e rende le informazioni utilizzabili!

Il riepilogo è il processo di riduzione di un testo lungo a una versione più breve, assicurandosi al contempo di conservarne il significato fondamentale e le informazioni principali. Lo si può considerare una panoramica concisa o un abstract.

Per chiedere a un LLM di creare un riepilogo, in genere si forniscono il testo e un'istruzione chiara. Ad esempio:

"Summarize the following article: [ARTICLE TEXT]"

Può guidare l'LLM nella produzione di riepiloghi che soddisfino esattamente le sue esigenze. Nel prompt, sia specifico riguardo a:

• Lunghezza: "in 3 frasi", "meno di 100 parole", "un breve riepilogo".
• Formato: "sotto forma di elenco puntato", "in un paragrafo", "come titolo".
• Stile/Tono: "per un pubblico non tecnico", "con tono formale", "come un articolo di cronaca".

La specificità aiuta l'LLM a fornire esattamente l'output desiderato.

Riepiloghiamo un breve paragrafo sul prompt engineering. Ecco come potrebbe costruire il prompt:

Testo di input: "Il prompt engineering è un concetto dell'intelligenza artificiale, in particolare dell'elaborazione del linguaggio naturale, che si concentra sullo sviluppo e sull'ottimizzazione dei prompt per utilizzare in modo efficiente i modelli linguistici in un'ampia gamma di applicazioni e temi di ricerca. È una disciplina relativamente nuova, che descrive i metodi per comunicare con gli LLM e orientarne il comportamento verso i risultati desiderati senza modificare i pesi del modello."

Prompt:

"Summarize the following text in one concise sentence: Prompt engineering is a concept in artificial intelligence, especially natural language processing, that focuses on developing and optimizing prompts to efficiently use language models for a wide range of applications and research topics. It's a relatively new discipline, outlining the methods for communicating with LLMs to steer their behavior for desired outcomes without modifying the model's weights."

L'estrazione consiste nell'identificare e recuperare informazioni specifiche da un testo più ampio. A differenza del riepilogo, non si riduce il testo: si isolano determinati dati, fatti o entità.

Tra le attività di estrazione più comuni rientrano la ricerca di nomi, date, luoghi, caratteristiche dei prodotti o sentiment. Questa tecnica è fondamentale quando è necessario convertire un testo non strutturato in dati strutturati.

Quando estrae informazioni, spesso è utile specificare il formato di output desiderato. In questo modo i dati estratti sono più facili da elaborare, analizzare o integrare in altri sistemi.

• Elenchi: "Elenca tutti i nomi delle aziende menzionati."
• JSON: "Estrai il nome, l'età e la città come oggetto JSON."
• Tabelle: "Presenta i risultati in una tabella con le colonne 'Articolo' e 'Prezzo'."

Istruzioni chiare sulla formattazione sono fondamentali per ottenere output di dati strutturati.

Estraiamo i dati di contatto da un estratto di un'e-mail. Ecco come potrebbe formulare il prompt per un LLM:

Testo di input: "Gentile John Smith, grazie per la sua richiesta. La nostra rappresentante commerciale, Sarah Jones, è raggiungibile all'indirizzo sarah.jones@example.com o al numero di telefono (555) 123-4567. Il nostro ufficio si trova al 123 Main St, Anytown, USA."

Prompt:

"Extract the following information from the text: recipient name, sales representative name, sales representative email, sales representative phone, and office address. Present the output as a JSON object. Text: Dear John Smith, Thank you for your inquiry. Our sales representative, Sarah Jones, can be reached at sarah.jones@example.com or by phone at (555) 123-4567. Our office is located at 123 Main St, Anytown, USA."

Per le attività più complesse, spesso è possibile combinare queste due potenti tecniche:

• Riepilogare e poi estrarre: prima ottenga un riepilogo conciso di un documento lungo, quindi estragga entità o fatti specifici da quel riepilogo.
• Estrarre e poi riepilogare: estragga tutti i fatti rilevanti, quindi chieda all'LLM di riepilogarli in un enunciato coerente.

Questo approccio modulare può aiutare a gestire la complessità e migliorare l'accuratezza dei risultati.

Per ottenere dai suoi LLM riepiloghi ed estrazioni il più possibile efficaci:

• Sia specifico: indichi chiaramente i requisiti (ad esempio, lunghezza del riepilogo, formato dell'output o entità specifiche da estrarre).
• Utilizzi delimitatori: racchiuda il testo da elaborare in delimitatori chiari, come le virgolette triple (""") o i tag XML, per separarlo dalle istruzioni.
• Fornisca il contesto: spieghi brevemente lo scopo del riepilogo o dell'estrazione, se questo aiuta l'LLM a comprendere l'obiettivo.
• Iteri: se l'output iniziale non è perfetto, affini il prompt. Piccole modifiche possono fare una grande differenza!

Consideri gli scenari seguenti. Quale di queste attività richiederebbe principalmente l'estrazione (e non il riepilogo) da un determinato testo?

In questa lezione abbiamo analizzato due potenti tecniche di prompt engineering per elaborare testi con gli LLM:

• Riepilogo: abbiamo imparato a ridurre i testi a versioni più brevi, controllandone lunghezza, formato e stile per coglierne rapidamente il senso.
• Estrazione: ci siamo concentrati sul recupero di informazioni specifiche e strutturate, come nomi, date o fatti, sottolineando l'importanza di specificare formati di output come JSON o gli elenchi.

Padroneggiare queste tecniche migliorerà notevolmente la sua capacità di elaborare e utilizzare in modo efficiente le informazioni contenute in dati testuali non strutturati tramite gli LLM.