Rozpoznawanie stronniczości w odpowiedziach AI

Stronniczość polega na tym, że odpowiedź przechyla się w jedną stronę, nie mówiąc o tym wprost. AI uczy się na ludzkich tekstach, a ludzkie teksty są pełne opinii, martwych punktów i nierównomiernie przedstawianych perspektyw. Dlatego AI może po cichu faworyzować jedną stronę, jedną kulturę albo jedno założenie. Dostrzeganie stronniczości nie polega na przyłapywaniu AI na „złych intencjach” — chodzi o zauważenie, że słyszą Państwo tylko część obrazu.

Istnieją dwa główne źródła. Po pierwsze, dane treningowe: jeśli większość tekstów, na których AI się uczyła, przedstawiała jedno stanowisko, AI przejmuje tę tendencję. Po drugie, Państwa prompt: jeśli pytają Państwo „Dlaczego X jest najlepszą opcją?”, już na wstępie wskazują Państwo oczekiwaną odpowiedź. AI z natury chętnie przytakuje i z radością zbuduje Państwa argumentację, nawet jeśli jest ona słaba.

Asystentów AI dostrojono tak, aby byli pomocni i uprzejmi, co oznacza, że często zbyt łatwo Państwu przytakują. Jeśli zapytają Państwo „Czy nie uważa Pan lub Pani, że ten plan jest świetny?”, najpewniej otrzymają Państwo entuzjastyczne potwierdzenie. To może być przyjemne, ale niczego nie dowodzi. Jeśli zawsze zadają Państwo pytania sugerujące odpowiedź, AI staje się lustrem, a nie doradcą.

Najprostszy sposób na ograniczenie stronniczości to poproszenie o przeciwne stanowisko. „Proszę teraz przedstawić najsilniejszy argument przeciwko temu”. „Co powiedziałby sceptyk?”. „Proszę wymienić wady”. Zrównoważony obraz powstaje dzięki celowemu poproszeniu o stronę, której wcześniej Państwo nie usłyszeli. Jeśli AI ma trudności z przedstawieniem przeciwnego argumentu, to również jest cenna informacja.

Proszę formułować pytania tak, aby zachęcały do przedstawienia różnych perspektyw. Zamiast „Dlaczego ten produkt jest najlepszy?” proszę zapytać: „Jakie są zalety i wady tego produktu w porównaniu z innymi?”. Zamiast „Udowodnij, że mam rację” proszę powiedzieć: „Proszę poddać moje rozumowanie próbie”. Neutralne pytania prowadzą do pełniejszych odpowiedzi, ponieważ nie narzucają z góry wniosku.

Proszę przeczytać odpowiedź i zapytać: czy przedstawiono w niej jakieś kompromisy? Czy wspomniano, kto może mieć inne zdanie? Odpowiedź zawierająca same zalety i żadnych zastrzeżeń jest sygnałem ostrzegawczym — niemal nic w rzeczywistości nie jest wyłącznie dobre. Jeśli nie ma żadnego „ale”, prawdopodobnie mają Państwo przed sobą jednostronny obraz, który warto przeanalizować ponownie.

AI często przyjmuje domyślnie określoną perspektywę kulturową — zazwyczaj zachodnią i anglojęzyczną — nawet w przypadku tematów globalnych. Jeśli zapytają Państwo o „dobre śniadanie” albo „odpowiedni strój do pracy”, odpowiedź może po cichu zakładać określone miejsce. Jeśli Państwa kontekst jest inny, proszę to zaznaczyć: „Odpowiedz z perspektywy osoby w Indonezji” albo „Uwzględnij także perspektywy spoza Zachodu”.

Pytają Państwo AI o porównanie dwóch poglądów politycznych. W odpowiedzi jeden z nich zostaje subtelnie przedstawiony jako rozsądny, a drugi jako skrajny. Dopytują Państwo: „A teraz przedstaw najbardziej życzliwą interpretację każdego stanowiska”. Druga odpowiedź jest znacznie bardziej zrównoważona. Nie usunęli Państwo stronniczości, narzekając na nią — usunęli ją Państwo, prosząc wprost o bezstronność.

Gdy AI poleca produkty, książki lub ekspertów, proszę zwrócić uwagę na to, co pomija. Może nadmiernie polecać znane lub często omawiane propozycje tylko dlatego, że pojawiały się częściej w danych treningowych. Mniej znane, ale świetne możliwości mogą zniknąć z pola widzenia. Proszę zapytać: „Jakie są niedoceniane lub mniej oczywiste możliwości?”, aby poszerzyć wybór.

Nie trzeba zakładać, że każda odpowiedź jest skażona. Większość jest w porządku. Ważne jest, aby w myślach stale zadawać sobie jedno proste pytanie: „Czego ta odpowiedź mi nie mówi?” Ten jeden nawyk pozwala wychwycić większość stronniczości istotnej w codziennym użyciu.

Stronniczość kryje się w danych treningowych oraz w sposobie zadawania pytań. Można ją ograniczać, stosując neutralne sformułowania, prosząc o przedstawienie drugiej strony, wyjaśniając rzeczywisty kontekst i zwracając uwagę na odpowiedzi, które nie wymieniają żadnych wad. Nie szukają Państwo idealnie neutralnego AI — dbają Państwo o to, aby przed podjęciem decyzji usłyszeć więcej niż jeden głos.

Zauważają Państwo odpowiedź AI, która wychwala jedną opcję i nie wspomina o żadnych jej wadach.

Stronniczość to ukryte przechylenie wynikające z danych treningowych i sugerujących promptów. Można ją ograniczać, stosując neutralne sformułowania, prosząc o przedstawienie przeciwnego stanowiska i kompromisów, podając rzeczywisty kontekst oraz zwracając uwagę na odpowiedzi, które nie wymieniają żadnych wad. Celem jest wysłuchanie więcej niż jednej strony przed podjęciem decyzji — to Państwo pozostają osobami myślącymi w sposób zrównoważony.