Fine-tuning za pomocą API Trainer
Wytrenuj klasyfikator na swoich danych
Fine-tuning za pomocą API Trainer to bezpłatna lekcja NLP Academy na CoddyKit. To lekcja 3 z 4. Możesz przeczytać całą lekcję poniżej za darmo — a potem ćwiczyć ją interaktywnie w przeglądarce z wbudowanym edytorem kodu i tutorem AI dostępnym 24/7. To część ścieżki edukacyjnej NLP Academy, a Twój postęp synchronizuje się między webem a aplikacją CoddyKit. Kurs NLP Academy zawiera 4 lekcji w sumie.
Dlaczego warto dostrajać model
Wstępnie wytrenowany model zna już język; dostrajanie pomaga mu osiągać lepsze wyniki w konkretnym zadaniu na podstawie oznaczonych danych.
Zacznij od checkpointu
Załaduj model z głowicą klasyfikacyjną dopasowaną do liczby etykiet. Wagi bazowe zostają ponownie użyte, a tylko głowica jest inicjalizowana od nowa.
from transformers import AutoModelForSequenceClassification
m = AutoModelForSequenceClassification.from_pretrained("bert-base-uncased", num_labels=2)Poznaj Trainer
API Trainer obsługuje za Ciebie całą pętlę trenowania: tworzenie partii, gradienty, ewaluację i zapisywanie — wszystko w jednej klasie.
Przygotuj zbiór danych
Stokenizuj tekst i zachowaj etykiety. Obiekt Dataset biblioteki Hugging Face można bezpośrednio przekazać do Trainer.
ds = ds.map(lambda x: tok(x["text"], truncation=True), batched=True)Ustaw argumenty trenowania
TrainingArguments gromadzi wszystkie ustawienia w jednym miejscu: współczynnik uczenia, rozmiar partii, epoki i lokalizację zapisywania checkpointów.
from transformers import TrainingArguments
args = TrainingArguments("out", num_train_epochs=3)Zbuduj Trainer
Przekaż model, argumenty i zbiory danych do Trainer. Teraz wszystko, czego potrzebuje do nauki, znajduje się w jednym obiekcie.
from transformers import Trainer
trainer = Trainer(model=m, args=args, train_dataset=train, eval_dataset=val)Uruchom trenowanie
Pojedyncze wywołanie uruchamia całą pętlę. Trainer przechodzi przez epoki i aktualizuje wagi w miarę uczenia się modelu.
trainer.train()Współczynnik uczenia ma znaczenie
Dostrajanie używa małego współczynnika uczenia, często około 2e-5, aby delikatnie dostosować wstępnie wytrenowane wagi, zamiast je zniszczyć.
Tylko kilka epok
Transformery zwykle potrzebują zaledwie dwóch do czterech przejść przez dane. Przy zbyt wielu epokach model zaczyna się przeuczać.
Śledzenie metryk
Przekaż do Trainer funkcję compute_metrics, a podczas każdej ewaluacji otrzymasz informacje o dokładności lub F1 i będziesz na bieżąco obserwować postęp.
trainer = Trainer(..., compute_metrics=metric_fn)Użyj collatora danych
Collator danych dynamicznie dopełnia każdą partię do długości najdłuższego przykładu, oszczędzając pamięć w porównaniu z dopełnianiem wszystkiego do jednej długości.
Szybkie sprawdzenie
Dlaczego podczas dostrajania używa się małego współczynnika uczenia?
Podsumowanie
Załaduj model z nową głowicą, stokenizuj dane, ustaw TrainingArguments, a następnie pozwól Trainerowi wykonać kilka epok z małym współczynnikiem uczenia. ✅
Często zadawane pytania
Czy lekcja „Fine-tuning za pomocą API Trainer” jest bezpłatna?
Tak — pełny tekst „Fine-tuning za pomocą API Trainer” jest dostępny za darmo tutaj w sieci. Aby ćwiczyć ją interaktywnie (wbudowany edytor kodu i tutor AI dostępny 24/7) i odblokować resztę kursu NLP Academy, przejdź na CoddyKit PRO. Kurs NLP Academy zawiera 4 lekcji w sumie.
Co nauczysz się w „Fine-tuning za pomocą API Trainer”?
Wytrenuj klasyfikator na swoich danych Ćwiczysz NLP Academy z praktycznym kodem, który uruchamiasz bezpośrednio w przeglądarce, a tutor AI dostępny 24/7 odpowiada na Twoje pytania podczas pracy nad lekcją.
Czy potrzebuję doświadczenia, aby zacząć NLP Academy?
Nie wymagamy żadnego doświadczenia. NLP Academy w CoddyKit jest strukturyzowany dla początkujących i zaawansowanych użytkowników, więc możesz zacząć tutaj lub od początku i uczyć się w swoim tempie. To lekcja 3 z 4.
Ile czasu zajmuje lekcja „Fine-tuning za pomocą API Trainer”?
Większość lekcji CoddyKit trwa około 5–10 minut. Każda lekcja to mały, interaktywny krok, dzięki czemu robisz systematyczne postępy i zawsze wracasz dokładnie do tego samego miejsca — na webie i w aplikacji.
Czy mogę pisać i uruchamiać kod w tej lekcji NLP Academy?
Tak. Każda lekcja NLP Academy zawiera wbudowany edytor kodu, więc piszesz i uruchamiasz prawdziwy kod bezpośrednio w przeglądarce i od razu otrzymujesz sprzężenie zwrotne od AI — bez konfiguracji na komputerze.
Wszystkie lekcje w tym kursie
- Przegląd biblioteki Transformers
- Tokenizacja na potrzeby modeli Transformer
- Fine-tuning za pomocą API Trainer
- Ocena i zapisywanie modelu