Limiti di parole e lunghezza

I modelli di IA generano naturalmente risposte di una lunghezza predefinita, in genere quella che ritengono necessaria per fornire una risposta completa. Spesso, però, questa lunghezza predefinita non è quella di cui ha bisogno.

I vincoli di lunghezza nei prompt Le consentono di specificare esattamente quanto deve essere lunga una risposta, adattando l'output alla sua destinazione: un tweet, la didascalia di una slide, il riepilogo di un'email o un articolo di 500 parole.

Capire come scrivere vincoli di lunghezza efficaci e in quali casi non funzionano è una competenza pratica di prompt engineering.

Il vincolo di lunghezza più preciso è un conteggio esatto delle parole: «Scriva questo testo usando esattamente 100 parole.»

I modelli cercheranno di raggiungere questo obiettivo, ma raramente producono esattamente il numero richiesto. In pratica, «esattamente 100 parole» produce generalmente una risposta entro un intervallo di ±10 parole.

Per la maggior parte dei casi d'uso è sufficiente. Per requisiti rigidi, ad esempio un elaborato soggetto a un limite di parole, verifichi sempre il conteggio e riduca manualmente il testo se necessario. Se la precisione è importante, utilizzi invece un intervallo più ristretto: «tra 98 e 102 parole.»

I limiti sul numero di frasi sono spesso più affidabili dei conteggi delle parole, perché le frasi costituiscono un'unità più naturale per il modello:

• «In non più di 3 frasi»
• «Riassuma questo testo in 2 frasi»
• «Scriva una descrizione in una sola frase»

I vincoli sul numero di frasi funzionano particolarmente bene per riepiloghi, descrizioni e introduzioni. Per evitare frasi singole molto lunghe, aggiunga un limite di parole: «In 2 frasi, ciascuna di meno di 25 parole.»

I vincoli basati su intervalli indicano al modello una zona obiettivo invece di un limite rigido e spesso producono testi più naturali:

• «Scriva questo testo usando 500-600 parole»
• «Mantenga la risposta tra 150 e 200 parole»
• «Punti a 3-5 punti elenco»

Gli intervalli sono più flessibili e tendono a produrre un testo più scorrevole rispetto ai conteggi esatti. Utilizzi i conteggi esatti quando la destinazione prevede un limite rigido, come nel caso dei limiti di caratteri di una piattaforma o dei campi di un modulo, e gli intervalli per i testi editoriali.

Molte piattaforme prevedono limiti rigidi per il numero di caratteri. Twitter/X applica un limite di 280 caratteri. Quando richiede contenuti specifici per una piattaforma, indichi esplicitamente il limite:

• «Scriva un tweet (massimo 280 caratteri) per annunciare il lancio del nostro prodotto.»
• «Crei una notifica SMS di meno di 160 caratteri.»
• «Scriva un post per LinkedIn di meno di 1300 caratteri.»

Prima di pubblicare, conti sempre i caratteri della risposta: i modelli stimano il numero di caratteri con meno precisione rispetto al numero di parole. Un semplice controllo Python con len(response) evita brutte figure.

A volte i modelli non rispettano i vincoli di lunghezza. I problemi più comuni sono:

• Il compito è complesso e il modello ritiene di non poterlo completare entro la lunghezza specificata
• Il vincolo è stato inserito alla fine di un prompt lungo e potrebbe aver ricevuto meno peso
• Il conteggio delle parole e i vincoli sul contenuto sono in conflitto, ad esempio «tratti 10 argomenti in 50 parole»

Soluzioni: sposti il vincolo di lunghezza all'inizio del prompt, lo integri nella persona, ad esempio «È uno scrittore che risponde sempre usando esattamente 100 parole», oppure riduca l'ambito del contenuto in modo da adattarlo alla lunghezza.

Quando deve applicare programmaticamente i limiti di lunghezza, aggiunga un passaggio di convalida dopo la chiamata all'API:

Il motivo più comune per cui i vincoli di lunghezza non funzionano è una mancata corrispondenza tra l'ambito del contenuto e il budget di parole disponibile.

Se chiede al modello di «spiegare l'informatica quantistica, la sua storia, le applicazioni attuali e il suo potenziale futuro in 50 parole», gli sta assegnando un compito impossibile. Il modello violerà il limite di parole oppure produrrà una risposta così condensata da risultare inutile.

Soluzione: riduca l'ambito, ad esempio «spieghi l'informatica quantistica in una frase», oppure aumenti il budget di parole in modo che corrisponda all'ambito. Non chieda mai contemporaneamente un'ampia copertura e un output molto breve.

I vincoli di lunghezza non servono solo a far rientrare il contenuto in uno spazio: funzionano anche come prompt di ragionamento che impongono di condensare e stabilire delle priorità.

«Spieghi l'idea chiave di questo rapporto di 10 pagine in una frase» è un esercizio utile anche quando non ha realmente bisogno di una sola frase. Il vincolo costringe il modello a individuare l'idea più importante.

I vincoli su una lunghezza ridotta sono un modo efficace per estrarre l'essenza e stabilire le priorità all'interno di materiale lungo e complesso.

Può anche impostare vincoli di lunghezza minima quando ha bisogno di una profondità sufficiente:

• «Scriva almeno 400 parole»
• «Fornisca almeno 5 punti elenco»
• «Includa almeno 3 esempi»

I vincoli minimi sono utili quando il modello tende a fornire risposte superficiali su argomenti complessi. La combinazione di un minimo e di un massimo crea un intervallo: «Scriva tra 400 e 500 parole.» In questo modo si evitano sia risposte insufficienti sia riempitivi superflui.

Per le applicazioni in cui ogni risposta deve rispettare una determinata lunghezza, imposti il vincolo nel prompt di sistema invece di ripeterlo a ogni messaggio dell'utente:

«È un assistente conciso. Ogni risposta deve contenere al massimo 3 frasi. Se Le viene chiesto qualcosa che richiede più spazio, produca un riepilogo di 3 frasi e proponga di approfondire.»

I vincoli di lunghezza a livello di sistema sono più affidabili di quelli specificati per ogni messaggio, perché stabiliscono una regola comportamentale persistente invece di un'istruzione una tantum.

Sta sviluppando uno strumento per la generazione di contenuti destinato ai gestori dei social media. Ogni post deve avere una lunghezza compresa tra 150 e 200 parole. Nonostante un'istruzione sul limite di parole alla fine del prompt, il modello continua a generare post di 280-350 parole.

Qual è la soluzione più efficace?

I vincoli di lunghezza, come conteggi esatti delle parole, limiti sul numero di frasi, limiti di caratteri e intervalli, consentono di adattare l'output dell'IA alla sua destinazione. I conteggi esatti sono adatti ai limiti rigidi, mentre gli intervalli producono un testo più naturale. I vincoli sui caratteri per i contenuti specifici di una piattaforma, come tweet e SMS, richiedono sempre una verifica programmatica.

Il principale problema è la mancata corrispondenza tra contenuto e lunghezza: l'ambito è troppo ampio rispetto al budget di parole. Il posizionamento nel prompt di sistema e la convalida programmatica sono i meccanismi di applicazione più affidabili.

Nella prossima lezione imparerà a limitare l'ambito dell'argomento anziché la lunghezza.