Ajuste fino: descongelación y reentrenamiento

Después de que la extracción de características entrene la capa de clasificación, el ajuste fino permite obtener una precisión adicional al adaptar la parte superior de la base preentrenada a sus datos. Hágalo solo cuando la capa de clasificación esté estable; de lo contrario, los gradientes grandes de una capa de clasificación aleatoria pueden dañar la base.

Establezca base.trainable = True para que los pesos puedan volver a actualizarse. Por sí solo, esto descongela todas las capas, lo que normalmente resulta demasiado agresivo.

Las primeras capas contienen detectores genéricos de bordes y texturas que conviene conservar. Vuelva a congelar las primeras N capas y realice el ajuste fino solo de las más profundas y específicas de la tarea.

El ajuste fino requiere una tasa de aprendizaje muy pequeña, como 1e-5. Los pesos preentrenados ya son buenos; solo se necesitan ajustes leves. Una tasa alta provoca olvido catastrófico y borra los conocimientos de ImageNet que se buscaba aprovechar.

Debe recompilar después de cambiar los indicadores trainable para que Keras reconstruya qué pesos reciben gradientes. Establezca aquí la tasa de aprendizaje baja.

1. Fase 1 (extracción de características): base congelada; entrene la capa de clasificación con aproximadamente 1e-3 hasta que la precisión de validación se estanque.
2. Fase 2 (ajuste fino): descongele las capas superiores, recompile con aproximadamente 1e-5 y continúe el entrenamiento.

Dividir el proceso de esta forma estabiliza el entrenamiento y protege las características preentrenadas.

Reanude el entrenamiento desde el punto en que terminó la fase 1 usando initial_epoch, para que los registros y las programaciones sigan siendo continuos.

Un programador reduce la tasa de aprendizaje con el tiempo, de modo que las actualizaciones disminuyen a medida que el modelo converge. ReduceLROnPlateau la reduce automáticamente cuando la pérdida de validación deja de mejorar.

ResNet y EfficientNet contienen capas de BatchNormalization que registran estadísticas acumuladas. Durante el ajuste fino, mantener congeladas las capas de BN (o en modo de inferencia) suele producir resultados más estables, ya que actualizar sus estadísticas con un conjunto de datos pequeño puede perjudicar la precisión.

El ajuste fino añade muchos parámetros entrenables, por lo que aumenta el riesgo de sobreajuste. Combátalo con aumento de datos, dropout y EarlyStopping sobre la pérdida de validación.

Un proceso de ajuste fino robusto consiste en entrenar la cabeza, descongelar las capas superiores, congelar BN, recompilar con 1e-5 y entrenar con un programador y detención temprana. Compare siempre la precisión de validación antes y después para confirmar que el ajuste fino realmente ha ayudado.

Ha aprendido a hacer ajuste fino estableciendo base.trainable=True, volviendo a congelar las primeras N capas, recompilando con una tasa de aprendizaje muy pequeña (1e-5) y ejecutando un proceso de dos fases. Un programador de la tasa de aprendizaje y la detención temprana ayudan a mantener la estabilidad, y las capas BatchNorm requieren especial cuidado. Siguiente tema: modelos ligeros para su implementación en dispositivos edge.