Conceitos e estratégias de aprendizado por transferência

A aprendizagem por transferência reutiliza um modelo treinado em um grande conjunto de dados como ponto de partida para uma tarefa nova e relacionada. Em vez de aprender características visuais do zero, você reutiliza características que uma rede já aprendeu.

Isso reduz drasticamente a quantidade de dados e os recursos computacionais necessários para alcançar alta precisão.

A maioria dos modelos de visão pré-treinados é treinada no ImageNet: aproximadamente 1,4 milhão de imagens distribuídas em 1000 classes.

Durante esse treinamento, a rede aprende uma hierarquia de características: bordas e cores nas primeiras camadas, texturas nas camadas intermediárias e partes de objetos próximas à saída. Essas características de baixo nível são transferidas bem para praticamente qualquer tarefa de imagens.

As primeiras camadas convolucionais detectam padrões genéricos (bordas, manchas e gradientes) que aparecem em todas as imagens naturais, sejam elas de gatos, radiografias ou fotografias de satélite.

As camadas mais profundas se tornam mais específicas da tarefa (elas combinam essas bordas para formar partes de objetos do ImageNet). Por isso, normalmente mantemos as camadas iniciais e substituímos ou treinamos novamente as camadas posteriores.

A extração de características congela todas as camadas da base pré-treinada para que seus pesos nunca mudem. A base funciona como um extrator fixo de características; você treina apenas uma pequena nova camada de classificação na parte superior.

Use essa estratégia quando seu conjunto de dados for pequeno e semelhante ao ImageNet. Ela é rápida e reduz o sobreajuste, pois poucos parâmetros são treináveis.

O ajuste fino descongela as camadas superiores da base e as treina novamente junto com a camada final, permitindo que a rede adapte suas características de alto nível aos seus dados específicos.

Use essa estratégia quando tiver mais dados ou quando seu domínio for diferente do ImageNet (por exemplo, exames médicos). Sempre faça o ajuste fino com uma taxa de aprendizado muito baixa para evitar destruir os pesos pré-treinados.

• Extração de características: base congelada, apenas a camada final é treinada, muito rápida, ideal para dados pequenos e semelhantes.
• Ajuste fino: camadas superiores da base descongeladas + camada final, mais lento, ideal para dados maiores ou diferentes.

Um padrão comum é fazer primeiro a extração de características e, depois, o ajuste fino em uma segunda fase, quando a camada final já estiver estabilizada.

A quantidade de dados disponível determina sua estratégia:

• Algumas centenas de imagens: apenas extração de características (congele tudo).
• Alguns milhares: extração de características e, depois, ajuste fino das poucas camadas superiores.
• Dezenas de milhares ou mais: faça o ajuste fino de uma parte maior da base, possivelmente da rede inteira.

Menos dados significa congelar mais camadas, pois menos parâmetros treináveis reduzem o risco de sobreajuste.

Os modelos do ImageNet produzem 1000 classes. Sua tarefa provavelmente tem um número diferente, então remova a camada superior original (include_top=False) e adicione sua própria camada de classificação, dimensionada para suas classes.

Cada família de modelos pré-treinados espera entradas escaladas da mesma forma que durante o treinamento no ImageNet. Usar o preprocess_input correspondente é essencial; caso contrário, a precisão despenca.

Durante a extração de características, uma taxa de aprendizado normal (por exemplo, 1e-3) é adequada, pois apenas a camada final recém-criada é treinada.

Durante o ajuste fino, você precisa reduzi-la para algo muito pequeno, como 1e-5. Atualizações grandes apagariam os pesos do ImageNet aprendidos cuidadosamente, um efeito chamado esquecimento catastrófico.

1. Carregue uma base pré-treinada com include_top=False.
2. Congele-a e treine uma nova camada final (extração de características).
3. Descongele as camadas superiores e treine novamente com uma taxa de aprendizado muito baixa (ajuste fino).
4. Avalie o modelo e converta-o para implantação.

Essa abordagem em etapas proporciona alta precisão mesmo com conjuntos de dados modestos.

Teste sua compreensão das estratégias de aprendizagem por transferência.

Você aprendeu que a aprendizagem por transferência reutiliza características pré-treinadas no ImageNet (1,4 milhão de imagens, 1000 classes). A extração de características congela a base para conjuntos de dados pequenos e semelhantes; o ajuste fino descongela as camadas superiores com uma taxa de aprendizado muito baixa para dados maiores ou diferentes.

Combine o pré-processamento com a base, substitua a camada final pelas suas classes e use um fluxo de trabalho em etapas. Em seguida, colocaremos isso em código com VGG16 e ResNet50.