Bias, fairness og forklarbarhed i LLM'er

Hvad er bias? Det er en urimelig hældning for eller imod noget. I store sprogmodeller (LLM'er) betyder bias, at modellens resultater på en urimelig måde kan favorisere bestemte grupper eller synspunkter, ofte fordi de afspejler bias i træningsdataene.

Det er afgørende at genkende og håndtere bias for at udvikle etiske og pålidelige AI-applikationer.

LLM'er lærer fra enorme mængder tekst og kode. Hvis disse data indeholder samfundsmæssige bias (f.eks. stereotyper i nyhedsartikler eller historiske fordomme), kan modellen lære dem og videreføre dem. Vigtige kilder omfatter:

• Træningsdata: Den primære kilde, som afspejler virkelige samfundsmæssige bias.
• Menneskelig annotering: Bias, der introduceres under mærkning eller finjustering af data.
• Algoritmisk design: Mindre almindeligt, men valg af modelarkitektur kan forstærke eksisterende bias.

Bias i LLM'er er ikke kun én ting; det kan vise sig på flere måder:

• Stereotypisk bias: At forbinde bestemte erhverv eller egenskaber med bestemte køn, etniciteter eller kulturer.
• Demografisk bias: Ulig repræsentation eller behandling af forskellige demografiske grupper (f.eks. alder, race eller bopæl).
• Repræsentationsbias: Underrepræsentation eller fejlagtig repræsentation af bestemte grupper i genereret indhold.
• Fordelingsbias: Urimelige resultater ved fordeling af ressourcer, f.eks. i låneansøgninger eller anbefalinger ved ansættelser.

Vi kan teste for bias ved at spørge LLM'er om roller eller egenskaber. Hvis en LLM konsekvent forbinder bestemte køn med bestemte job, er det et tegn på bias.

Overvej denne prompt:

Hvis LLM'en ofte afslutter med "he" for lægen og "she" for sygeplejersken, er det et tegn på kønsbias. Ved at variere sådanne prompts kan du afsløre disse mønstre.

LLM'er kan generere svar af forskellig kvalitet eller forskellige typer afhængigt af de antydede demografiske forhold. En prompt, der f.eks. beder om "advice for a young programmer", kan implicit antage en mandlig identitet.

For at identificere dette kan du variere demografiske signaler i dine prompts og observere forskelle i resultaterne:

Sammenlign de genererede beskrivelser. Er de lige positive? Fokuserer de på lignende egenskaber? Forskelle peger på bias.

Retfærdighed inden for AI betyder, at en LLM's resultater ikke i uforholdsmæssig grad skader eller favoriserer bestemte grupper. Det er et komplekst begreb med forskellige definitioner afhængigt af konteksten og anvendelsen.

Vigtige aspekter, der ofte overvejes, omfatter:

• Lige muligheder: Lignende fejlrater eller ydeevne for alle grupper.
• Lige resultater: Lignende positive resultater eller repræsentation for alle grupper.
• Gruppemæssig uafhængighed: Beslutninger, der træffes uden at tage hensyn til følsomme attributter.

En grundlæggende måde at reducere bias på er at håndtere selve træningsdataene. Selvom det ofte sker under modeludviklingen, er det godt at kende de underliggende principper:

• Databalance: Sikring af mangfoldig og retfærdig repræsentation af alle grupper i træningssæt.
• Dataforøgelse: Oprettelse af variationer af eksisterende data for at reducere skævhed og forbedre robustheden.
• Værktøjer til registrering af bias: Brug af automatiserede værktøjer til at identificere og markere forudindtaget indhold i datasæt.

Som prompt engineers kan vi aktivt begrænse bias. Giv LLM'en tydelige instruktioner om at være neutral og inkluderende eller om at tage forskellige perspektiver i betragtning i sine svar.

I stedet for blot at bede om en "manager" kan du bede om "a manager of any gender or background".

Sådanne tydelige instruktioner leder modellen mod mere retfærdige resultater med mindre bias.

LLM'er kaldes ofte "sorte bokse", fordi det er svært at forstå, hvorfor de producerer et bestemt output. Forklarbarhed handler om at gøre disse beslutninger gennemsigtige og forståelige for mennesker.

Det er afgørende for:

• Tillid: Brugere skal kunne stole på AI'ens anbefalinger og output.
• Ansvarlighed: At forstå, hvem der er ansvarlig for AI'ens påvirkning.
• Fejlfinding: At identificere og rette fejl, skævheder eller uventet adfærd.
• Overholdelse: At opfylde lovgivningsmæssige krav inden for følsomme områder.

Selvom ægte forklarbarhed i LLM'er stadig er et aktivt forskningsområde, kan prompt engineering tilskynde modeller til at vise deres ræsonnement. Det hænger sammen med Chain-of-Thought (CoT)-prompting, hvor modeller bliver bedt om at formulere mellemtrinene.

Bed LLM'en om at "tænke trin for trin" eller "forklare sit ræsonnement", før den giver det endelige svar:

Det giver værdifuld indsigt i modellens interne proces og gør den mindre uigennemsigtig.

Vi har undersøgt, hvordan skævheder fra træningsdata kan påvirke LLM-output og komme til udtryk som stereotyper eller skæv demografisk fordeling. Vi har gennemgået betydningen af retfærdighed og strategier som balancering af data og eksplicitte promptinstruktioner til at begrænse skævhed.

Til sidst berørte vi forklarbarhed og så på, hvorfor den er afgørende for tillid, samt hvordan prompting efter ræsonnementstrin kan give indsigt i LLM'ers beslutninger. Disse begreber er afgørende for ansvarlig udvikling af AI.