Come l'IA predice la parola successiva

Ecco il grande segreto dei chatbot: scrivono indovinando la parola successiva, ancora e ancora. Dia loro un inizio e prevedranno una parola dopo l’altra, finché non si forma una risposta completa.

Dica «C’era una volta…» e il Suo cervello completerà la frase con «un re» o «una principessa». Un’IA fa la stessa cosa su scala enorme: ha imparato così bene gli schemi linguistici da poter indovinare che cosa viene naturalmente dopo.

L’IA è stata addestrata leggendo un’enorme quantità di testi scritti da esseri umani. Non memorizza le pagine: impara gli schemi, proprio come Lei ha imparato la grammatica senza un manuale di regole.

Ogni parola che sceglie è una ipotesi molto valida su ciò che si adatta meglio al contesto. Mettendo in fila abbastanza ipotesi valide si ottiene un paragrafo scorrevole e naturale.

Ha imparato dai testi scritti dagli esseri umani, quindi ciò che produce sembra educato e pertinente, come se fosse stato scritto da una persona riflessiva. Ma ricordi: sta riconoscendo schemi, non comprendendo davvero.

Ecco il problema: mira a scegliere parole che suonano giuste, non parole che sono vere. Di solito le due cose coincidono, ma può scrivere una frase sicura di sé che è semplicemente falsa.

Se pone la stessa domanda due volte, la formulazione potrebbe cambiare, perché nel modo in cui sceglie le parole è incorporata una certa varietà. È normale: sta generando una risposta nuova, non leggendo qualcosa già pronto.

All’interno di una singola chat segue la conversazione, ma tra chat separate di solito riparte da zero: non conserva una vera memoria di Lei, a meno che non sia stata attivata una funzione specifica.

Vederla come una previsione della parola successiva rende tutto meno misterioso. Non è un oracolo saggio: è un eccellente riconoscitore di schemi. Si fidi di lei per le conoscenze comuni, ma verifichi i fatti specifici.

Quando una risposta La colpisce, è stata costruita una parola probabile alla volta. Quando sbaglia, è lo stesso processo che ha scelto una parola plausibile ma errata. Un solo meccanismo, due risultati.

La maggior parte delle persone usa i chatbot senza sapere come funzionano. Ora ha il quadro essenziale: prevedere la parola successiva e ripetere, finché compare una risposta utile. Questo, da solo, La mette già in vantaggio.

Come produce davvero la sua risposta un chatbot?

Un chatbot scrive prevedendo la parola successiva, ancora e ancora. Ha imparato gli schemi da enormi quantità di testo, quindi sembra umano, ma mira a scegliere parole che suonano giuste, non necessariamente vere.