Equità, pregiudizi e danni nel mondo reale

Un'IA apprende da enormi quantità di testi e immagini creati dagli esseri umani, e la storia dell'umanità comprende ingiustizie, stereotipi e punti ciechi. Perciò l'IA può assorbire e ripetere questi schemi, non per malizia, ma perché rispecchia ciò con cui è stata addestrata. Capire questo La aiuta a usare l'IA in modo più equo e a riconoscere quando qualcosa va storto.

Il pregiudizio si manifesta in modi concreti. A un generatore di immagini a cui si chiede «un CEO» potrebbe mostrare soprattutto persone di un certo genere o gruppo etnico. Uno strumento per selezionare i curriculum potrebbe favorire determinati nomi. Una traduzione potrebbe dare per scontato che un medico sia uomo e un'infermiera donna. Non sono ipotesi: è successo in sistemi reali e ha avuto conseguenze su persone reali.

Quando un'IA condizionata da pregiudizi viene usata per decisioni relative ad assunzioni, prestiti, attività di polizia o assistenza sanitaria, il danno non è astratto. Alle persone possono essere negati un lavoro, un prestito o un trattamento equo da un sistema che appare neutrale ma favorisce discretamente alcuni gruppi. L'aura del «lo ha detto il computer» fa sembrare oggettive le decisioni ingiuste, rendendole più difficili da contestare.

Principalmente attraverso i dati di addestramento: se i dati del passato riflettono discriminazioni passate, l'IA impara a ripeterle. Il pregiudizio può entrare anche attraverso le persone che hanno creato il sistema e gli aspetti che hanno verificato. La macchina non decide di essere ingiusta: copia fedelmente gli schemi presenti in dati imperfetti. Dati scadenti in ingresso, pregiudizi in uscita.

Potrebbe non creare sistemi di IA, ma ne utilizza i risultati. Se chiede all'IA di selezionare candidati, scrivere valutazioni delle prestazioni o giudicare le persone, i suoi pregiudizi diventano decisioni Sue. Rimanga vigile: questo risultato svantaggerebbe ingiustamente qualcuno? Aggiunga una verifica umana per qualsiasi elemento che incida sulle opportunità o sulla dignità delle persone.

Può orientare l'IA verso risultati più equi. Chieda esempi diversificati: «Mostri persone diverse», «Includa prospettive di culture differenti», «Eviti gli stereotipi». Quando genera persone o ruoli, chieda esplicitamente varietà invece di accettare l'impostazione predefinita, che spesso tende verso lo schema maggioritario presente nei dati.

Legga i risultati dell'IA applicando un filtro di equità. Ha dato per scontato il genere di una professione? Ha descritto un gruppo con termini riduttivi e stereotipati? Ha escluso completamente alcune prospettive? Dare un nome allo stereotipo permette di correggerlo: «Questa formulazione si basa su uno stereotipo: la riscriva in modo equo». Lei è il redattore che impedisce al pregiudizio di arrivare al pubblico.

Immagini di usare l'IA per classificare i candidati a un posto di lavoro. Se le assunzioni passate tendevano in una certa direzione, l'IA potrebbe classificare discretamente più in alto profili simili e penalizzare gli altri, anche quando si tratta di candidati eccellenti. Affidarsi ciecamente all'IA potrebbe essere ingiusto e, in molti luoghi, illegale. L'IA può aiutare nella selezione, ma una persona deve assumersi la responsabilità delle decisioni che influenzano il sostentamento degli altri.

Gli sviluppatori lavorano attivamente per ridurre i pregiudizi e gli strumenti migliorano nel tempo. Il Suo ruolo consiste in una vigilanza realistica, non nella disperazione. Utilizzi l'IA per i suoi enormi vantaggi, mantenendo però uno sguardo critico sui risultati che riguardano l'equità. Gli utenti consapevoli rendono l'IA più sicura semplicemente rifiutandosi di accettare risultati condizionati da pregiudizi.

Se nota che uno strumento di IA produce risultati chiaramente condizionati da pregiudizi o dannosi, lo segnali: la maggior parte delle piattaforme dispone di pulsanti per inviare feedback. La Sua segnalazione aiuta gli sviluppatori a correggere schemi che riguardano molte persone. Considerare l'equità una responsabilità di tutti, non solo degli ingegneri, è il modo in cui questi sistemi migliorano.

L'IA rispecchia i pregiudizi umani presenti nei dati di addestramento, e questi pregiudizi provocano danni reali quando sono alla base di decisioni sulle persone. Rimanga vigile quando usa l'IA, chieda varietà nei prompt, riconosca gli stereotipi, lasci agli esseri umani il controllo delle decisioni ad alto impatto e segnali i problemi. Contribuisce a creare un'IA più equa semplicemente rifiutandosi di trasmettere ulteriormente i suoi pregiudizi.

Ha intenzione di usare uno strumento di IA per aiutarLa a classificare i candidati a un posto di lavoro.

L'IA rispecchia i pregiudizi umani presenti in dati di addestramento imperfetti, e questi pregiudizi provocano danni reali quando guidano decisioni sulle persone. Rimanga vigile quando usa l'IA, chieda varietà, riconosca gli stereotipi, lasci agli esseri umani il controllo delle decisioni ad alto impatto e segnali i problemi. Rifiutarsi di trasmettere ulteriormente i pregiudizi significa contribuire a creare un'IA più equa.