Lær AI med Python · Lektion

Etik og governance-rammer for AI

Oversigt over EU AI Act, model cards, datasheets for datasæt, tjeklister for ansvarlig AI.

Lektion 4 af 413 trin

Etik og governance-rammer for AI er en gratis Lær AI med Python-lektion på CoddyKit. Dette er lektion 4 af 4. Du kan læse alle 3 lektioner i dette læringsspor gratis i deres fulde længde — derefter låser CoddyKit PRO alle lektioner op samt praktiske øvelser med en indbygget kodeeditor og en AI-underviser døgnet rundt. Den er en del af læringsforløbet i Lær AI med Python, og dine fremskridt synkroniseres på tværs af nettet og CoddyKit-appen. Lær AI med Python-kurset indeholder 4 lektioner i alt.

Hvorfor styring er vigtig

Avancerede modeller medfører reelle risici: diskrimination, skade på privatlivet, fejlinformation og sikkerhedsfejl. Styring af AI er det sæt af politikker, processer og dokumentation, der holder AI-systemer lovlige, retfærdige og ansvarlige gennem hele deres livscyklus.

EU AI Act

EU AI Act er en banebrydende forordning, der klassificerer AI-systemer efter risiko og pålægger forpligtelser, som står i forhold til denne risiko. Den bruger en risikopyramide med fire niveauer.

Risikoniveau: uacceptabelt

Øverst er systemer med uacceptabel risiko helt forbudt. Eksempler er myndigheders sociale rangordning og manipulerende systemer, der udnytter sårbarheder. Disse systemer må ikke anvendes, uanset hvilke sikkerhedsforanstaltninger der er indført.

Risikoniveau: højt

Systemer med høj risiko, f.eks. medicinsk udstyr, rekruttering, kreditvurdering og kritisk infrastruktur, er tilladt, men underlagt omfattende regulering. De kræver risikostyring, data af høj kvalitet, logning, menneskeligt tilsyn og en overensstemmelsesvurdering, før de må markedsføres.

Risikoniveauer: begrænset og minimalt

De lavere niveauer har mindre strenge krav:

Begrænset risiko, f.eks. chatbotter og deepfakes, kræver gennemsigtighed, såsom at brugerne får at vide, at de interagerer med AI
Minimal risiko, f.eks. spamfiltre og AI i spil, medfører stort set ingen forpligtelser

Opsummering af risikopyramiden

Fra top til bund er pyramiden i EU AI Act: uacceptabel (forbudt), høj (strenge krav), begrænset (krav om gennemsigtighed) og minimal (fri anvendelse). De fleste AI-systemer i hverdagen hører til i de to nederste niveauer.

Modelkort

Et modelkort er et kort, standardiseret dokument, der udgives sammen med en model. Det beskriver, hvad modellen er beregnet til, og hvor den ikke bør anvendes, så efterfølgende teams kan træffe velinformerede beslutninger. Det svarer til en næringsdeklaration for AI.

Modelkort: tilsigtet anvendelse

Afsnittet om tilsigtet anvendelse beskriver det primære formål, målbrugerne og anvendelser, der udtrykkeligt ligger uden for området. Det forebygger misbrug, f.eks. hvis en sentimentmodel, der er trænet på engelske tweets, anvendes på juridiske kontrakter.

# Intended use:
#   - Primary: classify product reviews as positive/negative
#   - Users: internal analytics team
#   - Out of scope: medical or legal text

Modelkort: ydeevne

Afsnittet om ydeevne rapporterer metrikker, helst opdelt efter undergruppe, samt de evalueringsdata, der er anvendt. Metrikker opdelt efter grupper viser, om modellen fungerer godt for alle eller kun for flertalsgruppen.

# Performance:
#   - Overall accuracy: 0.91
#   - By language: en 0.93, es 0.84
#   - Eval set: 10k held-out reviews

Modelkort: forbehold

Afsnittet om forbehold og begrænsninger oplister kendte fejltilstande, skævheder og forhold, hvor modellen fungerer dårligere, f.eks. sprog med få ressourcer eller inddata uden for fordelingen. Ærlige forbehold skaber tillid og forebygger skade.

Tjekliste for ansvarlig AI

Teams omsætter styring til praksis med en tjekliste for ansvarlig AI, som gennemgås før lancering:

Er træningsdataene repræsentative, og er der indhentet samtykke til dem?
Har vi målt retfærdigheden på tværs af grupper?
Er der menneskeligt tilsyn med beslutninger, der har store konsekvenser?
Er forklaringer tilgængelige for berørte brugere?
Er et modelkort udgivet, og er der lagt en overvågningsplan?

Hurtigt tjek

Test din viden om AI-styring.

Besvar den i den interaktive lektion

Opsummering

Du har lært om AI-etik og -styring:

Risikopyramiden i EU's AI-forordning: uacceptabel risiko (forbudt), høj risiko (strenge krav), begrænset risiko (gennemsigtighed), minimal risiko (fri anvendelse)
Et modelkort dokumenterer tilsigtet brug, ydeevne (opdelt) og forbehold
En tjekliste for ansvarlig AI omsætter principper til kontrolpunkter før lancering

Gratis at komme i gang

Lær Python med en AI-underviser — gratis

Skriv og kør rigtig kode i din browser, få øjeblikkelig hjælp fra en AI-underviser døgnet rundt, og fortsæt, hvor du slap, på web eller i appen.

Kurser: 53
Lektioner: 225

Start gratis Se hele kurset

Ofte stillede spørgsmål

Er lektionen “Etik og governance-rammer for AI” gratis?

Ja — alle 3 lektioner i læringssporet Lær AI med Python, inklusive “Etik og governance-rammer for AI”, kan læses gratis i deres fulde længde her på webstedet. Derefter låser CoddyKit PRO alle lektioner op samt interaktive øvelser med en indbygget kodeeditor og en AI-underviser døgnet rundt. Lær AI med Python-kurset indeholder 4 lektioner i alt.

Hvad lærer jeg i “Etik og governance-rammer for AI”?

Oversigt over EU AI Act, model cards, datasheets for datasæt, tjeklister for ansvarlig AI. Du øver dig i Lær AI med Python med praktisk kode, som du kører direkte i browseren, og en AI-vejleder døgnet rundt besvarer dine spørgsmål, mens du arbejder dig gennem lektionen.

Skal jeg have erfaring for at begynde på Lær AI med Python?

Der kræves ingen tidligere erfaring. Lær AI med Python på CoddyKit er tilrettelagt for både begyndere og øvede, så du kan starte her eller fra begyndelsen og lære i dit eget tempo. Dette er lektion 4 af 4.

Hvor lang tid tager lektionen “Etik og governance-rammer for AI”?

De fleste CoddyKit-lektioner tager cirka 5–10 minutter. Hver lektion er kort og interaktiv, så du gør løbende fremskridt og kan fortsætte, hvor du slap – på både web og app.

Kan jeg skrive og køre kode i denne Lær AI med Python-lektion?

Ja. Alle Lær AI med Python-lektioner har en indbygget kodeeditor, så du kan skrive og køre rigtig kode direkte i din browser og få øjeblikkelig feedback fra AI – uden lokal opsætning.

Alle lektioner i dette kursus

← Tilbage til Lær AI med Python