Etica dell'AI e framework di governance

I modelli avanzati comportano rischi concreti: discriminazione, violazioni della privacy, disinformazione e problemi di sicurezza. La governance dell'IA è l'insieme di politiche, processi e documentazione che mantengono i sistemi di IA conformi alla legge, equi e responsabili durante tutto il loro ciclo di vita.

L'EU AI Act è una normativa fondamentale che classifica i sistemi di IA in base al rischio e impone obblighi proporzionati a tale rischio. Utilizza una piramide del rischio a quattro livelli.

Al vertice, i sistemi a rischio inaccettabile sono vietati senza eccezioni. Tra gli esempi rientrano il social scoring governativo e i sistemi manipolativi che sfruttano le vulnerabilità. Non possono essere utilizzati, indipendentemente dalle misure di salvaguardia adottate.

I sistemi a rischio elevato, come dispositivi medici, sistemi per le assunzioni, valutazione del credito e infrastrutture critiche, sono consentiti ma fortemente regolamentati: prima dell'immissione sul mercato richiedono gestione del rischio, dati di alta qualità, registrazione degli eventi, supervisione umana e valutazione della conformità.

I livelli inferiori prevedono obblighi meno stringenti:

• Il rischio limitato, come chatbot e deepfake, richiede trasparenza, per esempio informando gli utenti che stanno interagendo con un sistema di IA
• Il rischio minimo, come filtri antispam e IA per videogiochi, non comporta praticamente alcun obbligo

Dall'alto verso il basso, la piramide dell'EU AI Act comprende: inaccettabile, cioè vietato; elevato, con requisiti rigorosi; limitato, con obblighi di trasparenza; e minimo, con uso libero. La maggior parte dei sistemi di IA di uso quotidiano rientra nei due livelli inferiori.

Una Model Card è un documento breve e standardizzato pubblicato insieme a un modello. Comunica a che cosa serve il modello e in quali contesti non dovrebbe essere utilizzato, aiutando i team che lo integrano a prendere decisioni informate. È l'equivalente, per l'IA, di un'etichetta nutrizionale.

La sezione relativa all'uso previsto indica lo scopo principale, gli utenti destinatari e gli utilizzi esplicitamente esclusi dall'ambito. Questo previene l'uso improprio, come applicare a contratti legali un modello per l'analisi del sentiment addestrato su tweet in inglese.

La sezione relativa alle prestazioni riporta le metriche, idealmente suddivise per sottogruppo, e i dati utilizzati per la valutazione. Le metriche disaggregate mostrano se il modello funziona bene per tutti o soltanto per il gruppo di maggioranza.

La sezione relativa a avvertenze e limitazioni elenca le modalità di errore note, i bias e le condizioni in cui le prestazioni del modello peggiorano, per esempio nel caso di lingue con poche risorse o di input fuori distribuzione. Avvertenze oneste rafforzano la fiducia e prevengono i danni.

I team rendono operativa la governance attraverso una checklist per un'IA responsabile, da esaminare prima del rilascio:

• I dati di addestramento sono rappresentativi e raccolti con il consenso?
• Abbiamo misurato l'equità tra i gruppi?
• È prevista una supervisione umana per le decisioni ad alto impatto?
• Le spiegazioni sono disponibili per gli utenti interessati?
• È stata pubblicata una Model Card ed è attivo un piano di monitoraggio?

Verifichi le Sue conoscenze sulla governance.

Ha appreso l'etica e la governance dell'IA:

• La piramide dei rischi dell'EU AI Act: inaccettabile (vietato), alto (rigoroso), limitato (trasparenza), minimo (libero)
• Una Model Card documenta l'uso previsto, le prestazioni (disaggregate) e le avvertenze
• Una lista di controllo per un'IA responsabile trasforma i principi in controlli da superare prima del lancio