Sprawiedliwość, stronniczość i szkody w świecie rzeczywistym

AI uczy się na ogromnych zbiorach ludzkich tekstów i obrazów, a zapis ludzkiej działalności obejmuje niesprawiedliwość, stereotypy i martwe punkty. AI może więc przyswajać i powtarzać te wzorce — nie ze złej woli, lecz dlatego, że odzwierciedla materiały, na których ją wytrenowano. Zrozumienie tego pomaga korzystać z AI w bardziej sprawiedliwy sposób i zauważać, gdy działa nieprawidłowo.

Stronniczość ujawnia się w konkretny sposób. Generator obrazów poproszony o "dyrektora generalnego" może przedstawiać głównie osoby jednej płci lub rasy. Narzędzie do selekcji CV może faworyzować określone imiona i nazwiska. Tłumaczenie może zakładać, że lekarz jest mężczyzną, a pielęgniarka kobietą. To nie są hipotetyczne przykłady — każda z tych sytuacji zdarzyła się w rzeczywistych systemach i wpłynęła na prawdziwych ludzi.

Gdy stronnicza AI wspiera decyzje dotyczące zatrudnienia, udzielania kredytów, działań policji lub opieki zdrowotnej, szkody nie są abstrakcyjne. Ludzie mogą nie dostać pracy, kredytu lub sprawiedliwego traktowania z powodu systemu, który wygląda na neutralny, lecz po cichu faworyzuje niektóre grupy. Otoczka "komputer tak zdecydował" sprawia, że niesprawiedliwe decyzje wydają się obiektywne, przez co trudniej je kwestionować.

Przede wszystkim z danych treningowych: jeśli dane z przeszłości odzwierciedlają dawną dyskryminację, AI uczy się ją powtarzać. Stronniczość może też wynikać z tego, kto stworzył system i co poddano testom. Maszyna nie decyduje, że chce być niesprawiedliwa — wiernie kopiuje wzorce zawarte w wadliwych danych. Śmieci na wejściu, stronniczość na wyjściu.

Mogą Państwo nie tworzyć systemów AI, ale korzystają Państwo z ich wyników. Jeśli poproszą Państwo AI o selekcję kandydatów, napisanie ocen pracowniczych lub ocenianie ludzi, jej stronniczość staje się Państwa decyzją. Proszę zachować czujność: czy ten wynik nie postawi kogoś w niesprawiedliwie niekorzystnej sytuacji? W przypadku wszystkiego, co wpływa na szanse lub godność ludzi, należy dodać etap oceny człowieka.

Mogą Państwo skłonić AI do tworzenia bardziej sprawiedliwych wyników. Proszę poprosić o różnorodne przykłady: "Pokaż różne grupy ludzi", "Uwzględnij perspektywy różnych kultur", "Unikaj stereotypów". Podczas generowania postaci lub ról proszę wyraźnie poprosić o różnorodność, zamiast akceptować ustawienie domyślne, które często przechyla się w stronę wzorca dominującego w danych.

Proszę czytać wyniki AI z myślą o sprawiedliwym traktowaniu. Czy AI założyła płeć osoby wykonującej dany zawód? Czy opisała jakąś grupę w wąski, pełen klisz sposób? Czy całkowicie pominęła pewne perspektywy? Nazwanie stereotypu pozwala go poprawić: "To ujęcie opiera się na stereotypie — proszę przygotować je ponownie w sprawiedliwy sposób". To Państwo są redaktorem, który nie pozwala przekazać dalej stronniczości.

Proszę wyobrazić sobie korzystanie z AI do uszeregowania kandydatów do pracy. Jeśli dotychczas zatrudniane osoby były do siebie podobne, AI może po cichu umieszczać wyżej podobne profile i obniżać pozycję innych — nawet silnych kandydatów. Ślepe poleganie na takim systemie może być niesprawiedliwe, a w wielu miejscach także niezgodne z prawem. AI może pomagać w selekcji, ale człowiek musi odpowiadać za decyzje wpływające na życie zawodowe ludzi.

Programiści aktywnie pracują nad ograniczeniem stronniczości, a narzędzia z czasem się doskonalą. Państwa rolą jest realistyczna czujność, a nie rozpacz. Proszę korzystać z ogromnych możliwości AI, zachowując krytyczne spojrzenie na wyniki dotyczące sprawiedliwego traktowania. Świadomi użytkownicy zwiększają bezpieczeństwo AI już samą odmową akceptowania stronniczych wyników.

Jeśli zauważą Państwo, że narzędzie AI tworzy wyraźnie stronnicze lub szkodliwe wyniki, proszę je zgłosić — większość platform ma przyciski przesyłania opinii. Takie zgłoszenie pomaga programistom naprawiać wzorce wpływające na wiele osób. Traktowanie sprawiedliwości jako obowiązku wszystkich, a nie tylko inżynierów, pozwala ulepszać te systemy.

AI odzwierciedla ludzką stronniczość zawartą w danych treningowych, a ta stronniczość powoduje rzeczywiste szkody, gdy system wspiera decyzje dotyczące ludzi. Proszę zachować czujność podczas własnego korzystania z AI, prosić w promptach o różnorodność, wychwytywać stereotypy, pozostawiać ludziom kontrolę nad decyzjami o poważnych konsekwencjach i zgłaszać problemy. Pomagają Państwo tworzyć bardziej sprawiedliwą AI już samą odmową przekazywania dalej jej stronniczości.

Planują Państwo użyć narzędzia AI, aby pomogło uszeregować kandydatów do pracy na dane stanowisko.

AI odzwierciedla ludzką stronniczość zawartą w wadliwych danych treningowych, a ta stronniczość powoduje rzeczywiste szkody, gdy wpływa na decyzje dotyczące ludzi. Proszę zachować czujność podczas korzystania z AI, prosić o różnorodność, wychwytywać stereotypy, pozostawiać ludziom kontrolę nad decyzjami o poważnych konsekwencjach i zgłaszać problemy. Odmowa przekazywania stronniczości dalej sprawia, że pomagają Państwo tworzyć bardziej sprawiedliwą AI.