Od autouzupełniania do ChatGPT

Zanim powstał ChatGPT, komputery zgadywały następne słowo, zliczając, które słowa zwykle występują po innych — był to model n-gramowy. Szybki, ale pozbawiony prawdziwego rozumienia.

Następnie pojawiły się sieci RNN: odczytywały tekst słowo po słowie i zapamiętywały to, co wystąpiło wcześniej. Były inteligentniejsze niż zwykłe zliczanie, ale wolne i szybko zapominały przy długich tekstach.

W 2017 roku opracowany przez Google model Transformer pozwolił modelowi analizować wszystkie słowa jednocześnie, zamiast przetwarzać je jedno po drugim. Umożliwiło to ogromne i szybkie treningi — dziś zasila niemal każdy LLM. 🚀

Modele GPT firmy OpenAI stale rosły — GPT-3 osiągnął 175 miliardów parametrów. Przy tej skali pojawiły się zaskakujące zdolności emergentne, takie jak rozwiązywanie zadań matematycznych, których modelu nigdy nie uczono.

Surowy GPT-3 często ignorował polecenia albo rozwlekał odpowiedzi. RLHF rozwiązało ten problem: ludzie oceniali odpowiedzi, ucząc model wykonywania instrukcji — tak powstał ChatGPT.

Prawdziwa magia ChatGPT tkwiła w interfejsie czatu. Zapamiętywał przebieg rozmowy, więc można było po prostu z nim rozmawiać — i miliony osób mogły od razu z niego korzystać. 💬

W starszych podejściach do NLP potrzebny był nowy model do każdego zadania. LLM to jeden model ogólnego przeznaczenia: potrafi tłumaczyć, streszczać, programować i prowadzić rozmowę — na podstawie zwykłych instrukcji.

Parametry to liczby, których model uczy się podczas treningu — jego wiedza. Większa liczba parametrów oznacza zwykle inteligentniejsze odpowiedzi, ale także wyższy koszt obsługi każdego żądania.

LLM uczy się podczas wstępnego treningu: odczytuje ogromne ilości tekstu i po prostu przewiduje następne słowo. Dzięki temu jednemu zadaniu przyswaja gramatykę, fakty i umiejętność rozumowania.

Po premierze ChatGPT rozpoczął się wyścig: Claude, Gemini, Llama i wiele innych modeli. Dziś prawdziwe pytanie nie brzmi „czy AI potrafi to zrobić?”, lecz który model wybrać, przy jakim koszcie i z jakimi kompromisami.

Znajomość tej historii się opłaca. Odmowa to mechanizmy ochronne RLHF, a pewna siebie błędna odpowiedź może wynikać z braku danych treningowych. Zrozumienie przyczyn pomaga tworzyć lepsze rozwiązania.

Podsumowanie: najpierw pojawiły się n-gramy i sieci RNN, ale miały ograniczenia; Transformery umożliwiły skalowanie modeli, a RLHF przekształciło surowy GPT-3 w ChatGPT. Dalej: jak naprawdę działa mechanizm uwagi. ✨