Wyrabianie nawyku weryfikowania przed zaufaniem

Wiedzą już Państwo, że AI może być genialna, a jednocześnie z pełnym przekonaniem podawać błędne informacje. Dojrzałą reakcją nie jest nieufność wobec wszystkiego — byłoby to wyczerpujące i pozbawiłoby Państwa korzyści. Chodzi o wyrobienie sobie niewielkiego, automatycznego odruchu sprawdzania przed zaufaniem, który uruchamia się dokładnie wtedy, gdy ma to znaczenie. Celem jest rozsądek, nie paranoja.

Cały ten nawyk sprowadza się do jednego pytania, które zadają sobie Państwo po każdej odpowiedzi AI: „Co się stanie, jeśli to nieprawda?” Jeśli odpowiedź brzmi „nic wielkiego” — chodzi o listę pomysłów do burzy mózgów albo luźną przeróbkę tekstu — można śmiało zaufać i przejść dalej. Jeśli odpowiedź brzmi „stracę pieniądze, zaszkodzę swojemu zdrowiu, skompromituję się albo złamię jakieś zasady”, jest to sygnał, by sprawdzić informacje, zanim Państwo podejmą działanie.

Proszę wyobrazić sobie drabinę. Niskie ryzyko: żarty, pomysły, wersje robocze, luźne pytania — nie trzeba niczego sprawdzać. Średnie ryzyko: informacje, które Państwo udostępnią, i plany, które Państwo zrealizują — wystarczy jedno szybkie sprawdzenie. Wysokie ryzyko: kwestie medyczne, prawne, finansowe i związane z bezpieczeństwem, a także wszystko, co jest nieodwracalne — proszę dokładnie zweryfikować informacje i rozważyć konsultację z ekspertem. Wysiłek należy dopasować do szczebla.

W przypadku codziennych informacji wystarczy 30 sekund: proszę wkleić kluczowe twierdzenie do wyszukiwarki internetowej, zadać pytanie drugiemu narzędziu AI albo kliknąć przywołane źródło. Nie piszą Państwo rozprawy — sprawdzają Państwo wyrywkowo ten jeden szczegół, który miałby znaczenie, gdyby okazał się fałszywy. Szybkość wynika ze sprawdzenia twierdzenia, a nie całej odpowiedzi.

Gdy pomyłka może dużo kosztować, proszę zwolnić. Proszę znaleźć źródło pierwotne — tekst właściwej ustawy, oficjalny serwis medyczny albo rzeczywistą treść umowy. Proszę porównać informacje w niezależnych źródłach. W przypadku poważnych decyzji medycznych, prawnych lub finansowych należy traktować AI jako punkt wyjścia, a następnie porozmawiać z wykwalifikowanym specjalistą. Żaden chatbot nie zastąpi lekarza ani prawnika.

Niektóre odpowiedzi dają wyraźne sygnały ostrzegawcze. Nienaturalnie szczegółowe liczby bez źródła, idealnie brzmiące cytaty, odnośniki, których nie można znaleźć, albo twierdzenia o bardzo niedawnych wydarzeniach pochodzące z narzędzia, które nie potrafi przeglądać Internetu. Gdy poczują Państwo ukłucie myśli „to jest podejrzanie uporządkowane”, proszę zaufać temu odczuciu i zweryfikować informacje.

Przeciwieństwem jest sprawdzanie wszystkiego, aż AI przestaje oszczędzać Państwu czas. Jeśli sprawdzą Państwo fakty dotyczące wiersza albo listy rzeczy do spakowania, miną się Państwo z celem. Należy zachować sceptycyzm wobec twierdzeń faktycznych, które mogą mieć rzeczywiste konsekwencje. Dobry nawyk przez większość czasu jest łagodny, a we właściwych chwilach — zdecydowany.

Proszą Państwo AI o podanie dawki popularnego leku dla dziecka. Czerwone światła ostrzegawcze zapalają się wszędzie — zdrowie, dziecko, nieodwracalne konsekwencje. Nie działają Państwo na podstawie odpowiedzi z czatu. Sprawdzają Państwo oficjalne zalecenia, a w razie wątpliwości dzwonią do farmaceuty. Ten nawyk właśnie kogoś ochronił. Dla porównania, przy prośbie o bajkę na dobranoc nie trzeba sprawdzać zupełnie niczego.

Nawyki utrwalają się, gdy są proste i regularne. Proszę powiązać sprawdzanie z wyzwalaczem: „Zanim coś wyślę, udostępnię, kupię lub zastosuję się do porady medycznej, sprawdzę informacje”. Proszę powtórzyć to kilka razy, a stanie się odruchem — tak jak rozglądanie się w obie strony przed przejściem przez jezdnię. Nie dokładają sobie Państwo pracy; dodają Państwo pół sekundy namysłu.

AI to potężny pierwszy szkic myślenia, ale to Państwo są redaktorem, który wypuszcza go w świat. Wszystko, co wychodzi spod Państwa ręki, jest opatrzone Państwa nazwiskiem, a nie nazwą AI. To wzmacnia sprawczość: otrzymują Państwo całą szybkość AI oraz bezpieczeństwo wynikające z obecności myślącego człowieka na ostatnim etapie.

Nawyk sprawdzania przed zaufaniem sprowadza się do jednego pytania — „Co się stanie, jeśli to nieprawda?” — stosowanego za pomocą drabiny ryzyka. Niskie ryzyko: można zaufać. Średnie ryzyko: szybkie sprawdzenie. Wysokie ryzyko: dokładna weryfikacja oraz konsultacja z człowiekiem. Należy zwracać uwagę na sygnały halucynacji, unikać nadmiernego sprawdzania i pamiętać, że ostatnim filtrem są Państwo. To właśnie czyni z Państwa rozsądny ludzki element pętli decyzyjnej.

Sprawdzanie przed zaufaniem to prosty odruch oparty na jednym pytaniu: „Co się stanie, jeśli to nieprawda?” Należy korzystać z drabiny ryzyka — ufać przy niskim ryzyku, szybko sprawdzać przy średnim, a przy wysokim dokładnie weryfikować informacje i konsultować się z ekspertem. Proszę zwracać uwagę na sygnały halucynacji, unikać nadmiernego sprawdzania i pamiętać, że są Państwo ostatnim filtrem. Ten nawyk sprawia, że AI jest jednocześnie szybka i bezpieczna.