Gestire dati parziali e mancanti

I documenti reali raramente contengono tutti i campi previsti dallo schema. In una fattura potrebbe mancare il numero d'ordine d'acquisto, in un curriculum potrebbero non comparire le date e in un articolo di giornale potrebbe non essere indicata una località. Progettare lo schema di estrazione per gestire correttamente i dati parziali e mancanti è importante quanto estrarre ciò che è presente.

Indichi come Optional[type] i campi che potrebbero non comparire in ogni documento e assegni loro il valore predefinito None. Pydantic v2 tratta questi campi come nullable e indica al modello di non inventare valori quando le informazioni sono assenti. Per i dati mancanti, preferisca sempre None a una stringa vuota: sarà più facile filtrarli nelle fasi successive.

Chieda al modello di valutare la propria confidenza in ogni campo estratto aggiungendo un punteggio di confidenza accanto al valore. Racchiuda entrambi in un helper generico FieldExtract. Le estrazioni con bassa confidenza possono essere indirizzate a revisori umani invece di essere passate direttamente ai sistemi downstream, riducendo il rischio di dati errati non rilevati.

A volte l'assenza di dati è significativa di per sé. Utilizzi l'Optional di Python insieme a un'enum Literal per distinguere tra non menzionato, esplicitamente indicato come assente e sconosciuto. Questa distinzione in tre casi impedisce al codice downstream di trattare un'assenza esplicita come una mancata menzione, cosa che può causare bug sottili nella logica di business.

Quando una chiamata di estrazione primaria restituisce troppi campi None, provi un prompt di follow-up mirato che si concentri specificamente sulle informazioni mancanti. Invii solo il paragrafo pertinente insieme al modello parzialmente estratto e chieda al modello di compilare esclusivamente i campi vuoti. Questo approccio a due passaggi migliora significativamente il recall sui documenti ambigui.

Per i campi che hanno un valore predefinito sensato quando l'informazione manca, utilizzi default o default_factory di Pydantic. Ad esempio, una lista di tag dovrebbe avere come valore predefinito una lista vuota anziché None, così il codice downstream potrà sempre iterarvi. Riservi None ai campi per cui l'assenza deve essere segnalata e gestita esplicitamente.

Crei una coda di revisione per le estrazioni con una confidenza inferiore a una soglia. Memorizzi i risultati con bassa confidenza in una tabella separata del database con un flag needs_review, li esponga in un'interfaccia interna di revisione e consenta agli annotatori umani di correggerli. Riutilizzi le correzioni come esempi few-shot per migliorare le estrazioni future.

Alcuni campi possono essere estratti in più modi validi dallo stesso testo. Ad esempio, una data scritta come 'lunedì prossimo' è ambigua senza una data di riferimento. Utilizzi un campo raw_span per acquisire il testo esatto usato dal modello, insieme al valore normalizzato. In questo modo conserva l'evidenza originale e rende molto più semplice il debugging delle estrazioni.

Monitori quali campi assumono più spesso il valore None nel corpus di documenti. Un'elevata frequenza di assenza per un campo obbligatorio suggerisce che il campo sia effettivamente assente nella maggior parte dei documenti oppure che la descrizione dello schema confonda il modello. La registrazione dei pattern di assenza per tipo di documento aiuta a stabilire quali miglioramenti allo schema avranno il maggiore impatto sulla qualità dei dati.

Per documenti complessi come relazioni annuali o contratti lunghi, funziona meglio una strategia di estrazione in più passaggi. Nel primo passaggio estragga i campi ad alta confidenza che sono sempre presenti. Nei passaggi successivi si concentri su sezioni o paragrafi specifici per estrarre i campi più difficili. Unisca tutti i passaggi in un unico record finale, consentendo ai passaggi successivi di sovrascrivere i valori None precedenti.

Gli schemi ben progettati riducono naturalmente i dati mancanti. Utilizzi descrizioni dei campi specifiche e circoscritte, così il modello saprà esattamente cosa cercare. Eviti di combinare due concetti in un unico campo. Aggiunga examples nella descrizione del campo per guidare l'estrazione. Uno schema che facilita il lavoro del modello avrà molti meno campi mancanti rispetto a uno basato su etichette vaghe.

Verifichi la comprensione della gestione dei dati parziali e mancanti nelle pipeline di estrazione.

In questa lezione ha imparato che i campi opzionali con valori predefiniti None impediscono al modello di inventare dati mancanti; i punteggi di confidenza e le code di revisione creano una rete di sicurezza per le estrazioni incerte; e l'estrazione in più passaggi migliora il recall sui documenti complessi concentrando ogni passaggio su sezioni specifiche. Nella prossima lezione aumenteremo la scala dell'estrazione con l'elaborazione asincrona e le code.