Perché l'IA inventa informazioni con sicurezza

La cosa più insidiosa dell'AI è che può essere completamente sbagliata pur esprimendosi con assoluta sicurezza. Non c'è un tono esitante, nessun «forse». Presenta un fatto inventato con la stessa naturalezza con cui presenterebbe un fatto vero.

Questi errori espressi con sicurezza si chiamano allucinazioni. Capire perché si verificano è la prima difesa contro il rischio di lasciarsi ingannare.

Ricordi come funziona l'AI: prevede le parole più probabili, una dopo l'altra. Non cerca i fatti in un database. Genera un testo che sembra corretto.

Nella maggior parte dei casi, sembrare corretto ed essere corretto coincidono. Ma a volte la frase dal suono più naturale è semplicemente falsa e l'AI non ha alcun allarme interno che glielo segnali.

L'AI non sa davvero che cosa sia vero. Non ha consapevolezza né un verificatore di fatti incorporato. Produce soltanto un linguaggio plausibile.

Per questo può inventare una statistica, una data o una citazione con assoluta sicurezza. Per l'AI, una bugia convincente e un fatto hanno lo stesso aspetto: sono entrambi soltanto schemi di parole probabili.

Quando l'AI non sa qualcosa, spesso non lo ammette. Invece colma il vuoto con qualcosa che si adatta allo schema di una risposta.

Se le chiede un fatto oscuro che non ha mai appreso, anziché ammettere di non saperlo potrebbe inventare con disinvoltura una risposta plausibile. È proprio dall'impulso a colmare le lacune che nascono le allucinazioni.

Chiede all'AI una citazione tratta da un libro specifico. L'AI le fornisce una citazione elegante e pertinente, attribuita con precisione. Sembra perfetta, tranne per il fatto che non esiste.

L'AI ha generato qualcosa che sembrava una citazione tratta da quel libro. Nessuna malizia, nessuna consapevolezza: solo un riconoscimento di schemi finito completamente fuori strada, ma espresso con sicurezza. Succede più spesso di quanto i principianti immaginino.

Le allucinazioni si concentrano intorno a determinati elementi: fatti specifici, numeri, date, nomi, fonti e citazioni. Più il dettaglio è preciso e oscuro, maggiore è il rischio.

Le spiegazioni generali sono solitamente affidabili. È la citazione esatta, la statistica precisa o il nome di nicchia il punto in cui l'AI ha maggiori probabilità di inventare con sicurezza. Sapere questo le indica quando prestare particolare attenzione.

I modelli di AI apprendono da dati disponibili fino a un certo momento e potrebbero non conoscere bene gli eventi recenti. Se interrogati su qualcosa di nuovo, possono tirare a indovinare e presentare l'ipotesi come un fatto.

Sia particolarmente scettico sulle risposte riguardanti notizie recenti, prezzi o argomenti in rapida evoluzione. L'AI potrebbe descrivere con sicurezza un mondo che non esiste più o che non è mai esistito.

È utile sapere che l'AI non sta cercando di ingannarla. Non ha alcuna intenzione. Un'allucinazione è un effetto collaterale del suo funzionamento, non una scelta di fuorviarla.

Questo è importante perché significa che non può risolvere il problema chiedendo all'AI di essere onesta. Crede già di essere d'aiuto. La protezione deve venire da lei.

Se prende ogni risposta sicura per vera, prima o poi agirà sulla base di qualcosa di falso: un fatto errato in una relazione, una fonte inventata o una data sbagliata.

La soluzione non è smettere di usare l'AI, ma usarla con criterio: si affidi a essa per ragionare e creare bozze, e verifichi i fatti specifici importanti prima di basarsi su di essi.

Adotti un atteggiamento semplice: l'AI è un'assistente brillante e veloce, che occasionalmente sbaglia con assoluta sicurezza. Si fidi di lei per l'orientamento, ma verifichi due volte i dettagli.

Non è paranoia: è lo stesso scetticismo che applicherebbe a qualsiasi singola fonte. Sapere che esistono le allucinazioni la mette già in vantaggio rispetto alla maggior parte degli utenti.

Chieda all'AI qualcosa di oscuro e specifico, come una statistica precisa o una citazione tratta da una fonte poco conosciuta. Poi provi a verificarla altrove.

Potrebbe scoprire che è stata inventata con assoluta sicurezza. Vedere di persona un'allucinazione, anche una sola volta, rende la lezione molto più memorabile che sentirsi semplicemente dire che può accadere.

Le allucinazioni sono risposte inventate espresse con sicurezza. Si verificano perché l'AI prevede parole plausibili e non ha una reale nozione di vero o falso, quindi colma le lacune invece di ammettere di non sapere.

Il rischio è maggiore per fatti specifici, numeri, citazioni, fonti ed eventi recenti. L'AI non sta mentendo: non ha intenzioni. La protezione dipende da lei: si fidi dell'orientamento, verifichi i dettagli.