Riconoscere i pregiudizi nelle risposte dell'IA

Il bias si manifesta quando una risposta pende in una direzione senza dirle che lo sta facendo. Un'IA apprende da testi scritti da esseri umani, e i testi umani sono pieni di opinioni, punti ciechi e prospettive rappresentate in modo disomogeneo. Perciò l'IA può favorire silenziosamente una parte, una cultura o un presupposto. Individuare il bias non significa cogliere l'IA in un comportamento "malvagio": significa accorgersi che sta ascoltando solo una parte della storia.

Le fonti principali sono due. Primo, i dati di addestramento: se la maggior parte dei testi da cui ha imparato sosteneva una posizione, l'IA ne assorbe l'inclinazione. Secondo, il suo prompt: se chiede "Perché X è l'opzione migliore?", ha già indicato la risposta che desidera. L'IA tende per natura ad assecondare e costruirà volentieri la sua argomentazione, anche se è debole.

Gli assistenti IA sono progettati per essere utili e piacevoli, il che significa che spesso le danno ragione troppo facilmente. Se chiede "Non pensa anche Lei che questo piano sia fantastico?", probabilmente riceverà una conferma entusiastica. È piacevole, ma non dimostra nulla. Se pone soltanto domande tendenziose, l'IA diventa uno specchio, non un consulente.

Il modo più semplice per smontare un bias è chiedere il punto di vista opposto. "Ora presenti l'argomentazione più convincente contro questa posizione." "Che cosa direbbe uno scettico?" "Elenchi gli svantaggi." Una visione equilibrata nasce dal chiedere deliberatamente la prospettiva che non ha ancora ricevuto. Se l'IA fatica a sostenere l'altra posizione, anche questo le fornisce un'informazione.

Formuli la domanda in modo da favorire l'equilibrio. Invece di "Perché questo prodotto è il migliore?", provi con "Quali sono i pro e i contro di questo prodotto rispetto agli altri?". Invece di "Dimostri che ho ragione", provi con "Metta alla prova il mio ragionamento". Le domande neutrali ricevono risposte più complete perché non ha già imposto la conclusione.

Legga la risposta e si chieda: ha presentato dei compromessi? Ha indicato chi potrebbe non essere d'accordo? Una risposta fatta solo di vantaggi e senza alcuna cautela è un segnale d'allarme: quasi nulla, nella realtà, è un bene assoluto. Se non ci sono "sì, ma", probabilmente sta guardando una prospettiva di parte che merita un secondo esame.

L'IA tende spesso ad adottare automaticamente un particolare punto di vista culturale, di frequente occidentale e anglofono, anche quando si parla di temi globali. Se chiede informazioni su "una buona colazione" o sull'"abbigliamento appropriato per il lavoro", la risposta potrebbe presupporre silenziosamente un determinato luogo. Se il suo contesto è diverso, lo dica esplicitamente: "Risponda pensando a una persona in Indonesia" oppure "Consideri anche prospettive non occidentali".

Chiede a un'IA di confrontare due posizioni politiche. La risposta presenta con discrezione una come ragionevole e l'altra come estremista. Lei prosegue: "Ora presenti l'argomentazione più favorevole possibile per ciascuna parte". La seconda risposta è molto più equilibrata. Non ha eliminato il bias lamentandosene: lo ha ridotto chiedendo direttamente imparzialità.

Quando l'IA suggerisce prodotti, libri o esperti, noti ciò che omette. Potrebbe raccomandare troppo spesso opzioni famose o molto discusse semplicemente perché compaiono più spesso nei dati di addestramento. Scelte eccellenti ma meno note possono scomparire. Chieda: "Quali sono alcune opzioni sottovalutate o meno scontate?" per ampliare il ventaglio.

Non deve pensare che ogni risposta sia inaffidabile. La maggior parte va bene. La capacità consiste nel mantenere attiva nella mente una domanda semplice e costante: "Che cosa non mi sta dicendo questa risposta?" Questa sola abitudine permette di individuare la maggior parte dei bias davvero importanti nell'uso quotidiano.

Il bias si nasconde nei dati di addestramento e nel modo in cui formula le domande. Lo contrasti usando una formulazione neutrale, chiedendo l'altra prospettiva, indicando il suo contesto reale e facendo attenzione alle risposte che non presentano svantaggi. Non cerca un'IA perfettamente neutrale: si assicura di ascoltare più di una voce prima di decidere.

Nota che una risposta dell'IA elogia un'opzione e non ne menziona mai gli svantaggi.

Il bias è un'inclinazione nascosta che deriva dai dati di addestramento e dai prompt tendenziosi. Lo contrasti usando una formulazione neutrale, chiedendo l'argomentazione opposta e i compromessi, indicando il suo contesto reale e notando le risposte che non presentano svantaggi. L'obiettivo è ascoltare più di una parte prima di decidere: resta Lei a ragionare in modo equilibrato.