Faça Ajuste Fino em um Modelo Hugging Face
Adapte um transformer pré-treinado aos seus dados
Faça Ajuste Fino em um Modelo Hugging Face é uma aula grátis de Deep Learning Academy no CoddyKit. Esta é a aula 4 de 4. Você pode ler a aula completa abaixo gratuitamente — depois pratica ao vivo no navegador com um editor de código integrado e um tutor de IA 24/7. Faz parte do caminho de aprendizado de Deep Learning Academy, e seu progresso é sincronizado entre a web e o app CoddyKit. O curso de Deep Learning Academy inclui 4 aulas no total.
Um centro de modelos pré-treinados
O Hugging Face oferece milhares de transformers prontos para uso em texto, visão e áudio. Você pode fazer o ajuste fino de um deles com seus próprios dados em minutos. 🤗
Instale Transformers
A biblioteca transformers fornece modelos, tokenizadores e ferramentas de treinamento em um único pacote.
pip install transformers datasetsCarregue um tokenizador
Primeiro, o texto precisa se transformar em números. O tokenizador fornecido com cada modelo sabe exatamente como dividir e codificar o seu texto.
from transformers import AutoTokenizer
tok = AutoTokenizer.from_pretrained('bert-base-uncased')Carregue um modelo com uma nova cabeça
Escolha uma classe para a sua tarefa. AutoModelForSequenceClassification carrega a base e conecta uma nova cabeça classificadora para os seus rótulos.
from transformers import AutoModelForSequenceClassification
model = AutoModelForSequenceClassification.from_pretrained('bert-base-uncased', num_labels=2)Tokenize seu conjunto de dados
Execute cada exemplo pelo tokenizador com preenchimento e truncamento, para que todas as entradas tenham o mesmo comprimento.
def encode(b):
return tok(b['text'], truncation=True, padding='max_length')TrainingArguments
TrainingArguments reúne seus hiperparâmetros: taxa de aprendizado, tamanho do lote, épocas e local para salvar os pontos de verificação.
from transformers import TrainingArguments
args = TrainingArguments(output_dir='out', learning_rate=2e-5, num_train_epochs=3)Mantenha essa taxa baixa
Observe que a taxa é apenas 2e-5. Assim como em qualquer ajuste fino, uma taxa de aprendizado pequena protege os pesos pré-treinados contra danos.
O treinador
A classe Trainer envolve todo o ciclo: passagem para frente, perda, retropropagação, etapa e avaliação. Você não precisa escrevê-lo manualmente.
from transformers import Trainer
trainer = Trainer(model=model, args=args, train_dataset=train_ds)Treine com uma chamada
Quando tudo estiver conectado, inicie o ajuste fino com uma única chamada de train e observe a perda diminuir.
trainer.train()Avalie e faça previsões
Depois do treinamento, chame evaluate para obter métricas nos dados reservados e, em seguida, use predict para pontuar exemplos totalmente novos.
trainer.evaluate()Salve e compartilhe
Persista seu modelo ajustado com save_pretrained e depois recarregue-o em qualquer lugar ou envie-o para o Hub para que outras pessoas possam usá-lo.
model.save_pretrained('my-classifier')Verificação rápida
Qual classe do Hugging Face executa todo o ciclo de treinamento para você, sem que seja necessário escrevê-lo manualmente?
Recapitulação
Você tokenizou os dados, carregou um modelo com uma nova camada final, definiu uma taxa baixa em TrainingArguments e fez o ajuste fino com o Trainer. 🎯
Aprenda Python com um tutor de IA — grátis
Escreva e execute código real no seu navegador, obtenha ajuda instantânea de um tutor de IA 24/7 e continue de onde parou na web ou no app.
- Cursos
- 30
- Aulas
- 120
Perguntas Frequentes
A aula “Faça Ajuste Fino em um Modelo Hugging Face” é grátis?
Sim — o texto completo de “Faça Ajuste Fino em um Modelo Hugging Face” é grátis para ler aqui na web. Para praticá-la interativamente (um editor de código integrado e um tutor de IA 24/7) e desbloquear o restante do curso de Deep Learning Academy, atualize para CoddyKit PRO. O curso de Deep Learning Academy inclui 4 aulas no total.
O que vou aprender em “Faça Ajuste Fino em um Modelo Hugging Face”?
Adapte um transformer pré-treinado aos seus dados Você pratica Deep Learning Academy com código prático que executa diretamente no navegador, e um tutor de IA 24/7 responde suas dúvidas enquanto trabalha na aula.
Preciso ter experiência prévia para começar Deep Learning Academy?
Nenhuma experiência prévia é necessária. Deep Learning Academy no CoddyKit é estruturado para alunos iniciantes até avançados, então você pode começar aqui ou desde o início e aprender no seu ritmo. Esta é a aula 4 de 4.
Quanto tempo leva a aula “Faça Ajuste Fino em um Modelo Hugging Face”?
A maioria das aulas CoddyKit leva cerca de 5–10 minutos. Cada uma é compacta e interativa, então você faz progresso constante e retoma exatamente de onde parou entre web e app.
Posso escrever e executar código nesta aula de Deep Learning Academy?
Sim. Cada aula de Deep Learning Academy inclui um editor de código integrado, então você escreve e executa código real direto no navegador e recebe feedback de IA instantaneamente — nenhuma configuração local necessária.
Todas as aulas deste curso
- Congele a Base e Treine a Cabeça
- Faça Ajuste Fino com uma Taxa de Aprendizado Menor
- Taxas Discriminativas por Camada
- Faça Ajuste Fino em um Modelo Hugging Face