Kiedy dostrajanie przewyższa promptowanie
Dostrajaj model do wąskich zadań i niestandardowych formatów lub aby skrócić prompty — nie po to, by uczyć go nowych faktów.
Kiedy dostrajanie przewyższa promptowanie to bezpłatna lekcja AI Agents na CoddyKit. To lekcja 1 z 4. Możesz przeczytać całą lekcję poniżej za darmo — a potem ćwiczyć ją interaktywnie w przeglądarce z wbudowanym edytorem kodu i tutorem AI dostępnym 24/7. To część ścieżki edukacyjnej AI Agents, a Twój postęp synchronizuje się między webem a aplikacją CoddyKit. Kurs AI Agents zawiera 4 lekcji w sumie.
Najpierw promptowanie, potem dostrajanie
Zawsze należy wyczerpać możliwości promptowania, zanim sięgną Państwo po dostrajanie:
- Lepszy prompt systemowy
- Przykłady few-shot
- Opisy narzędzi
- Lepszy model
- Ustrukturyzowane wyniki / Pydantic
- RAG
- ... DOPIERO POTEM dostrajanie
Kiedy dostrajanie pomaga
- Konkretny format lub styl — własny język wyników YAML
- Wąska dziedzina — medycyna, prawo, przeglądy kodu
- Opóźnienie — krótkie prompty bez przykładów few-shot oznaczają szybsze wnioskowanie
- Koszt — krótsze prompty oznaczają mniej rozliczanych tokenów
- Spójna persona — sposób wypowiadania się postaci, ton marki
Kiedy dostrajanie szkodzi
- Nauczanie faktów — RAG jest lepszym rozwiązaniem. Dostrojone modele zapominają fakty
- Ogólne rozumowanie — najnowocześniejsze modele już doskonale sobie z nim radzą
- Częste aktualizacje — ponowne trenowanie jest powolne
- Małe zbiory danych — mniej niż 100 przykładów rzadko przynosi zauważalną poprawę
Dostrajanie modeli zamkniętych
OpenAI i Anthropic oferują interfejsy API do dostrajania:
# OpenAI:
client.fine_tuning.jobs.create(
training_file='file-abc',
model='gpt-4o-mini-2024-07-18'
)Dostrajanie modeli otwartych
W przypadku Llama/Mistral/Qwen mają Państwo pełną kontrolę. Narzędzia:
- Unsloth — najszybsze, wymaga niewielkiej ilości VRAM
- Axolotl — oparte na konfiguracji i wszechstronne
- LLaMA-Factory — alternatywa tworzona przez chiński zespół
- HuggingFace TRL — oficjalne i elastyczne
Pełne dostrajanie a PEFT
Dostępne są dwa podejścia:
- Pełne — aktualizowana jest każda waga. Kosztowne, ponieważ wymaga ogromnej ilości VRAM.
- PEFT / LoRA — trenowane są niewielkie warstwy adaptera. Jest to 100 razy tańsze, a w przypadku większości zadań zapewnia podobną jakość.
Koszt dostrajania (OpenAI)
Wartości przybliżone (połowa 2025 roku):
- Trenowanie: 0,003 USD / 1 tys. tokenów
- Wnioskowanie z użyciem dostrojonego modelu: nieco droższe niż w przypadku modelu bazowego
- Dziesiątki tysięcy przykładów: łączny koszt trenowania 20–200 USD
Koszt dostrajania (hosting własny)
Jedna godzina na 8 kartach H100: około 100 USD w Lambda Labs. Dostrajanie LoRA modelu Llama 70B na 10 tys. przykładów: łącznie około 50–150 USD.
Orientacyjna zasada dotycząca ilości danych
- 50 przykładów — przydatne tylko w przypadku stylu lub formatu
- 500 przykładów — znaczące ulepszenia
- 5000 lub więcej przykładów — istotne nowe możliwości
- 50 000 lub więcej przykładów — malejące korzyści w porównaniu z poprawą jakości zbioru danych
Skąd pochodzą dane?
- Ślady produkcyjne wraz z poprawkami
- Dane syntetyczne wygenerowane przez silniejszy model
- Etykietowanie przez ludzi
- Publiczne zbiory danych
Decyzja: dostrajanie, RAG czy promptowanie
| Cel | Najlepsze podejście |
|---|---|
| Nowe fakty | RAG |
| Nowy format | Dostrajanie lub dobry prompt |
| Nowy styl | Dostrajanie |
| Lepsze rozumowanie | Silniejszy model |
| Niższy koszt lub mniejsze opóźnienie | Mniejszy model i dostrajanie |
Ewaluacja przed i po
Zawsze należy porównywać dostrojony model z bazowym na WŁASNYM zbiorze ewaluacyjnym. Czasami dostrajanie pogarsza wyniki — trzeba być gotowym je odrzucić.
Najlepszy powód do dostrojenia
Jaki jest NAJLEPSZY powód, aby dostroić model?
Podsumowanie
Najpierw prompt; model należy dostrajać wyłącznie z wąskich powodów związanych z formatem, stylem lub domeną. W celu obniżenia kosztów należy używać PEFT/LoRA. Zawsze należy przeprowadzać ewaluację przed dostrojeniem i po nim.
Często zadawane pytania
Czy lekcja „Kiedy dostrajanie przewyższa promptowanie” jest bezpłatna?
Tak — pełny tekst „Kiedy dostrajanie przewyższa promptowanie” jest dostępny za darmo tutaj w sieci. Aby ćwiczyć ją interaktywnie (wbudowany edytor kodu i tutor AI dostępny 24/7) i odblokować resztę kursu AI Agents, przejdź na CoddyKit PRO. Kurs AI Agents zawiera 4 lekcji w sumie.
Co nauczysz się w „Kiedy dostrajanie przewyższa promptowanie”?
Dostrajaj model do wąskich zadań i niestandardowych formatów lub aby skrócić prompty — nie po to, by uczyć go nowych faktów. Ćwiczysz AI Agents z praktycznym kodem, który uruchamiasz bezpośrednio w przeglądarce, a tutor AI dostępny 24/7 odpowiada na Twoje pytania podczas pracy nad lekcją.
Czy potrzebuję doświadczenia, aby zacząć AI Agents?
Nie wymagamy żadnego doświadczenia. AI Agents w CoddyKit jest strukturyzowany dla początkujących i zaawansowanych użytkowników, więc możesz zacząć tutaj lub od początku i uczyć się w swoim tempie. To lekcja 1 z 4.
Ile czasu zajmuje lekcja „Kiedy dostrajanie przewyższa promptowanie”?
Większość lekcji CoddyKit trwa około 5–10 minut. Każda lekcja to mały, interaktywny krok, dzięki czemu robisz systematyczne postępy i zawsze wracasz dokładnie do tego samego miejsca — na webie i w aplikacji.
Czy mogę pisać i uruchamiać kod w tej lekcji AI Agents?
Tak. Każda lekcja AI Agents zawiera wbudowany edytor kodu, więc piszesz i uruchamiasz prawdziwy kod bezpośrednio w przeglądarce i od razu otrzymujesz sprzężenie zwrotne od AI — bez konfiguracji na komputerze.
Wszystkie lekcje w tym kursie
- Kiedy dostrajanie przewyższa promptowanie
- Zbieranie danych: trajektorie i odtwarzanie śladów
- LoRA i QLoRA do ekonomicznego dostrajania
- Ocena dostrojonych modeli względem bazowego