Frameworks für KI-Ethik und Governance

Leistungsfähige Modelle bringen reale Risiken mit sich: Diskriminierung, Verletzungen der Privatsphäre, Fehlinformationen und Sicherheitsmängel. AI-Governance umfasst Richtlinien, Prozesse und Dokumentation, die KI-Systeme während ihres gesamten Lebenszyklus rechtskonform, fair und verantwortbar halten.

Der EU AI Act ist eine wegweisende Verordnung, die KI-Systeme nach ihrem Risiko klassifiziert und entsprechend abgestufte Pflichten auferlegt. Sie verwendet eine vierstufige Risikopyramide.

Systeme mit inakzeptablem Risiko sind an der Spitze der Pyramide vollständig verboten. Beispiele sind staatliches Social Scoring und manipulative Systeme, die Schwachstellen ausnutzen. Sie dürfen unabhängig von vorhandenen Schutzmaßnahmen nicht eingesetzt werden.

Hochriskante Systeme, etwa medizinische Geräte, Systeme für die Personalauswahl, Kreditwürdigkeitsprüfungen und kritische Infrastruktur, sind erlaubt, aber streng reguliert. Vor dem Inverkehrbringen benötigen sie unter anderem ein Risikomanagement, hochwertige Daten, Protokollierung, menschliche Aufsicht und eine Konformitätsbewertung.

Für die unteren Stufen gelten weniger strenge Vorgaben:

• Begrenztes Risiko (Chatbots, Deepfakes) erfordert Transparenz, etwa den Hinweis, dass Nutzende mit einer KI interagieren
• Minimales Risiko (Spamfilter, Spiel-KI) unterliegt im Wesentlichen keinen Verpflichtungen

Von oben nach unten umfasst die Pyramide des EU AI Act die Stufen inakzeptabel (verboten), hoch (strenge Anforderungen), begrenzt (Transparenzpflichten) und minimal (freie Nutzung). Die meisten alltäglichen KI-Anwendungen fallen in eine der beiden unteren Stufen.

Eine Model Card ist ein kurzes, standardisiertes Dokument, das zusammen mit einem Modell veröffentlicht wird. Sie beschreibt, wofür das Modell gedacht ist und wofür es nicht eingesetzt werden sollte, damit nachgelagerte Teams fundierte Entscheidungen treffen können. Sie ist das KI-Gegenstück zu einer Nährwertkennzeichnung.

Der Abschnitt zur vorgesehenen Verwendung beschreibt den primären Zweck, die Zielgruppe und ausdrücklich auch nicht vorgesehene Einsatzbereiche. So wird Missbrauch verhindert, etwa wenn ein anhand englischer Tweets trainiertes Stimmungsmodell auf juristische Verträge angewendet wird.

Der Abschnitt zur Leistung enthält Metriken, idealerweise aufgeschlüsselt nach Untergruppen, sowie die verwendeten Evaluationsdaten. Aufgeschlüsselte Metriken zeigen, ob das Modell für alle Gruppen gut funktioniert oder nur für die Mehrheitsgruppe.

Der Abschnitt zu Vorbehalten und Einschränkungen listet bekannte Fehlerfälle, Verzerrungen und Bedingungen auf, unter denen sich die Modellleistung verschlechtert, etwa bei ressourcenarmen Sprachen oder Eingaben außerhalb der Trainingsverteilung. Ehrliche Vorbehalte schaffen Vertrauen und verhindern Schäden.

Teams setzen Governance mithilfe einer Checkliste für verantwortungsvolle KI um, die vor der Einführung geprüft wird:

• Sind die Trainingsdaten repräsentativ und liegt eine Einwilligung für ihre Nutzung vor?
• Haben wir die Fairness über verschiedene Gruppen hinweg gemessen?
• Gibt es bei Entscheidungen mit hohen Auswirkungen menschliche Aufsicht?
• Sind Erklärungen für betroffene Nutzende verfügbar?
• Wurde eine Model Card veröffentlicht und ein Monitoring-Plan eingerichtet?

Testen Sie Ihr Wissen über Governance.

Sie haben KI-Ethik und Governance gelernt:

• Die Risikopyramide des EU AI Act: unzulässig (verboten), hoch (strenge Vorgaben), begrenzt (Transparenz), minimal (frei)
• Eine Model Card dokumentiert den vorgesehenen Verwendungszweck, die Leistung (aufgeschlüsselt) und Einschränkungen
• Eine Checkliste für verantwortungsvolle KI übersetzt Prinzipien in Freigabekriterien vor dem Start