Дообучите модель Hugging Face
Адаптируйте предварительно обученный трансформер к своим данным
«Дообучите модель Hugging Face» — бесплатный урок Deep Learning Academy на CoddyKit. Это урок 4 из 4. Ты можешь прочитать весь урок бесплатно ниже — а потом практиковать его прямо в браузере с встроенным редактором кода и ИИ-репетитором 24/7. Это часть пути обучения Deep Learning Academy, и твой прогресс синхронизируется между веб-версией и приложением CoddyKit. Курс Deep Learning Academy содержит 4 уроков всего.
Части этого урока еще не переведены и отображаются на английском.
A Hub of Pretrained Models
Hugging Face hosts thousands of ready-to-use transformers for text, vision, and audio. You can fine-tune one on your own data in minutes. 🤗
Install Transformers
The transformers library gives you models, tokenizers, and training tools in one package.
pip install transformers datasetsLoad a Tokenizer
Text must become numbers first. The tokenizer that ships with each model knows exactly how to split and encode your text.
from transformers import AutoTokenizer
tok = AutoTokenizer.from_pretrained('bert-base-uncased')Load a Model With a New Head
Pick a class for your task. AutoModelForSequenceClassification loads the backbone and attaches a fresh classifier head for your labels.
from transformers import AutoModelForSequenceClassification
model = AutoModelForSequenceClassification.from_pretrained('bert-base-uncased', num_labels=2)Tokenize Your Dataset
Run every example through the tokenizer with padding and truncation so all inputs share the same length.
def encode(b):
return tok(b['text'], truncation=True, padding='max_length')TrainingArguments
TrainingArguments bundles your hyperparameters: learning rate, batch size, epochs, and where to save checkpoints.
from transformers import TrainingArguments
args = TrainingArguments(output_dir='out', learning_rate=2e-5, num_train_epochs=3)Keep That Rate Low
Notice the rate is just 2e-5. As with any fine-tune, a small learning rate protects the pretrained weights from being wrecked.
The Trainer
The Trainer class wraps the whole loop: forward pass, loss, backward, step, and evaluation. You skip writing it by hand.
from transformers import Trainer
trainer = Trainer(model=model, args=args, train_dataset=train_ds)Train in One Call
Once everything is wired up, kick off fine-tuning with a single train call and watch the loss fall.
trainer.train()Evaluate and Predict
After training, call evaluate for metrics on held-out data, then use predict to score brand-new examples.
trainer.evaluate()Save and Share
Persist your tuned model with save_pretrained, then reload it anywhere or push it to the Hub for others to use.
model.save_pretrained('my-classifier')Quick Check
Which Hugging Face class runs the full training loop for you so you don't write it by hand?
Recap
You tokenized data, loaded a model with a fresh head, set a low rate in TrainingArguments, and fine-tuned it with the Trainer. 🎯
Изучай Python с ИИ-репетитором — бесплатно
Пиши и запускай код прямо в браузере, получай мгновенную помощь от ИИ-репетитора 24/7 и продолжи учиться на сайте или в приложении.
- Курсы
- 30
- Уроки
- 120
Часто задаваемые вопросы
Урок «Дообучите модель Hugging Face» бесплатный?
Да — полный текст урока «Дообучите модель Hugging Face» бесплатно доступен здесь в веб-версии. Чтобы практиковать его интерактивно (встроенный редактор кода и ИИ-репетитор 24/7) и разблокировать остальной курс Deep Learning Academy, подпишись на CoddyKit PRO. Курс Deep Learning Academy содержит 4 уроков всего.
Чему я научусь в уроке «Дообучите модель Hugging Face»?
Адаптируйте предварительно обученный трансформер к своим данным Ты практикуешь Deep Learning Academy с помощью реального кода, который запускаешь прямо в браузере, и ИИ-репетитор 24/7 отвечает на твои вопросы во время урока.
Нужен ли мне опыт, чтобы начать Deep Learning Academy?
Предыдущий опыт не требуется. Deep Learning Academy на CoddyKit структурирован для всех уровней — от новичков до продвинутых, поэтому ты можешь начать отсюда или с самого начала и учиться в своем темпе. Это урок 4 из 4.
Сколько времени занимает урок «Дообучите модель Hugging Face»?
Большинство уроков CoddyKit занимают около 5–10 минут. Каждый из них компактный и интерактивный, поэтому ты постоянно делаешь прогресс и продолжаешь с того же места в веб-версии и приложении.
Можно ли писать и запускать код в этом уроке Deep Learning Academy?
Да. Каждый урок Deep Learning Academy включает встроенный редактор кода, поэтому ты пишешь и запускаешь реальный код прямо в браузере и получаешь моментальную обратную связь от AI — локальная установка не требуется.
Все уроки этого курса
- Заморозьте основу и обучите головку
- Дообучение с меньшей скоростью обучения
- Дифференцированные скорости по слоям
- Дообучите модель Hugging Face