Mit der Trainer API feinabstimmen
Einen Klassifikator mit Ihren Daten trainieren
Mit der Trainer API feinabstimmen ist eine kostenlose NLP Academy-Lektion auf CoddyKit. Dies ist Lektion 3 von 4. Du kannst die komplette Lektion unten kostenlos lesen – dann übst du sie direkt im Browser mit einem integrierten Code-Editor und einem KI-Tutor rund um die Uhr. Sie ist Teil des NLP Academy-Lernpfads, und dein Fortschritt wird über Web und CoddyKit-App synchronisiert. Der NLP Academy-Kurs umfasst insgesamt 4 Lektionen.
Teile dieser Lektion wurden noch nicht übersetzt und werden auf Englisch angezeigt.
Why Fine-Tune
A pretrained model already knows language; fine-tuning nudges it to excel at your specific task using your labeled data.
Start From a Checkpoint
Load a model with a classification head sized to your labels. The base weights are reused, only the head starts fresh.
from transformers import AutoModelForSequenceClassification
m = AutoModelForSequenceClassification.from_pretrained("bert-base-uncased", num_labels=2)Meet the Trainer
The Trainer API handles the whole training loop for you: batching, gradients, evaluation, and saving, all in one class.
Prepare Your Dataset
Tokenize your text and keep the labels. A Hugging Face Dataset object plugs straight into the Trainer.
ds = ds.map(lambda x: tok(x["text"], truncation=True), batched=True)Set Training Arguments
TrainingArguments collects every knob in one place: learning rate, batch size, epochs, and where to save checkpoints.
from transformers import TrainingArguments
args = TrainingArguments("out", num_train_epochs=3)Build the Trainer
Pass the model, args, and your datasets into the Trainer. Now everything it needs to learn lives in one object.
from transformers import Trainer
trainer = Trainer(model=m, args=args, train_dataset=train, eval_dataset=val)Launch Training
A single call runs the full loop. The Trainer steps through epochs and updates the weights as it learns.
trainer.train()Learning Rate Matters
Fine-tuning uses a small learning rate, often around 2e-5, so you adjust the pretrained weights gently instead of wrecking them.
Just a Few Epochs
Transformers usually need only two to four passes over the data. Too many epochs and the model starts to overfit.
Track Metrics
Give the Trainer a compute_metrics function and it reports accuracy or F1 each evaluation, so you watch progress live.
trainer = Trainer(..., compute_metrics=metric_fn)Use a Data Collator
A data collator pads each batch dynamically to its longest example, saving memory versus padding everything to one length.
Quick Check
Why does fine-tuning use a small learning rate?
Recap
Load a model with a fresh head, tokenize your data, set TrainingArguments, then let the Trainer run a few low-rate epochs. ✅
Häufig gestellte Fragen
Ist die Lektion „Mit der Trainer API feinabstimmen“ kostenlos?
Ja — der vollständige Text von „Mit der Trainer API feinabstimmen“ ist hier im Web kostenlos zu lesen. Um sie interaktiv zu üben (integrierter Code-Editor und 24/7 KI-Tutor) und den Rest des NLP Academy-Kurses freizuschalten, upgrade auf CoddyKit PRO. Der NLP Academy-Kurs umfasst insgesamt 4 Lektionen.
Was lerne ich in „Mit der Trainer API feinabstimmen“?
Einen Klassifikator mit Ihren Daten trainieren Du übst NLP Academy mit praktischem Code, den du direkt im Browser ausführst, und ein 24/7 KI-Tutor beantwortet deine Fragen während du die Lektion bearbeitest.
Brauche ich Erfahrung, um NLP Academy zu starten?
Keine Vorkenntnisse erforderlich. NLP Academy auf CoddyKit ist für Anfänger bis fortgeschrittene Lernende strukturiert, sodass du hier starten oder von Anfang an beginnen und in deinem eigenen Tempo voranschreiten kannst. Dies ist Lektion 3 von 4.
Wie lange dauert die Lektion „Mit der Trainer API feinabstimmen“?
Die meisten CoddyKit-Lektionen dauern etwa 5–10 Minuten. Jede ist kompakt und interaktiv, sodass du stetig Fortschritte machst und genau dort weitermachst, wo du aufgehört hast – im Web und in der App.
Kann ich in dieser NLP Academy-Lektion Code schreiben und ausführen?
Ja. Jede NLP Academy-Lektion enthält einen integrierten Code-Editor, sodass du echten Code direkt in deinem Browser schreibst und ausführst und sofort KI-Feedback erhältst — ohne lokale Einrichtung erforderlich.
Alle Lektionen in diesem Kurs
- Rundgang durch die Transformers-Bibliothek
- Für Transformer-Modelle tokenisieren
- Mit der Trainer API feinabstimmen
- Ihr Modell evaluieren und speichern