Etyka AI i ramy zarządzania

Zaawansowane modele wiążą się z realnymi zagrożeniami: dyskryminacją, naruszeniem prywatności, dezinformacją i awariami zagrażającymi bezpieczeństwu. Zarządzanie AI to zbiór zasad, procesów i dokumentacji, które zapewniają zgodność systemów AI z prawem, ich sprawiedliwość i rozliczalność przez cały cykl życia.

EU AI Act to przełomowy akt prawny, który klasyfikuje systemy AI według ryzyka i nakłada obowiązki proporcjonalne do tego ryzyka. Wykorzystuje czteropoziomową piramidę ryzyka.

Na szczycie znajdują się systemy niedopuszczalnego ryzyka, które są całkowicie zakazane. Przykłady obejmują rządowe systemy oceny społecznej oraz systemy manipulacyjne wykorzystujące ludzkie słabości. Nie można ich wdrażać niezależnie od zastosowanych zabezpieczeń.

Systemy wysokiego ryzyka (urządzenia medyczne, rekrutacja, ocena zdolności kredytowej, infrastruktura krytyczna) są dozwolone, ale podlegają ścisłym regulacjom: przed wprowadzeniem na rynek wymagają zarządzania ryzykiem, danych wysokiej jakości, rejestrowania działań, nadzoru człowieka i oceny zgodności.

Niższe poziomy wiążą się z mniej rygorystycznymi wymaganiami:

• Ograniczone ryzyko (chatboty, deepfake'i) wymaga przejrzystości, np. informowania użytkowników, że kontaktują się z AI
• Minimalne ryzyko (filtry antyspamowe, AI w grach) zasadniczo nie wiąże się z żadnymi obowiązkami

Od góry do dołu piramida EU AI Act obejmuje poziomy: niedopuszczalny (zakaz), wysoki (ścisłe wymagania), ograniczony (obowiązki dotyczące przejrzystości) oraz minimalny (swobodne użycie). Większość codziennych zastosowań AI należy do dwóch najniższych poziomów.

Model Card to krótki, ustandaryzowany dokument publikowany wraz z modelem. Informuje, do czego model służy i gdzie nie należy go używać, aby zespoły korzystające z niego mogły podejmować świadome decyzje. Jest odpowiednikiem etykiety wartości odżywczej w świecie AI.

Sekcja zamierzonego zastosowania określa główny cel, docelowych użytkowników oraz zastosowania wyraźnie wykraczające poza zakres. Zapobiega to niewłaściwemu użyciu, na przykład zastosowaniu modelu analizy sentymentu wytrenowanego na anglojęzycznych tweetach do analizy umów prawnych.

Sekcja wydajności przedstawia metryki, najlepiej z podziałem na podgrupy, oraz wykorzystane dane ewaluacyjne. Metryki rozbite na grupy pokazują, czy model działa dobrze dla wszystkich, czy tylko dla grupy większościowej.

Sekcja zastrzeżeń i ograniczeń zawiera znane tryby awarii, obciążenia oraz warunki, w których model działa gorzej, takie jak języki o małych zasobach lub dane wejściowe spoza rozkładu. Szczere przedstawienie ograniczeń buduje zaufanie i zapobiega szkodom.

Zespoły przekładają zasady zarządzania na praktykę za pomocą listy kontrolnej odpowiedzialnej AI, weryfikowanej przed wdrożeniem:

• Czy dane treningowe są reprezentatywne i zebrane za zgodą?
• Czy zmierzono poziom sprawiedliwości dla poszczególnych grup?
• Czy w przypadku decyzji o dużych konsekwencjach zapewniono nadzór człowieka?
• Czy wyjaśnienia są dostępne dla osób, których decyzje dotyczą?
• Czy opublikowano Model Card i wdrożono plan monitorowania?

Poznali Państwo etykę AI i zarządzanie AI:

• piramida ryzyka EU AI Act: niedopuszczalne (zakazane), wysokie (rygorystyczne), ograniczone (przejrzystość), minimalne (swobodne)
• Model Card dokumentuje przeznaczenie, wydajność (z podziałem na grupy) i ograniczenia
• lista kontrolna odpowiedzialnej AI przekłada zasady na kryteria, które należy spełnić przed uruchomieniem