VGG16과 ResNet50을 기본 모델로 사용하기

tf.keras.applications에는 한 줄의 코드로 다운로드할 수 있는 수십 가지 사전 학습 아키텍처가 포함되어 있습니다. 대표적인 두 모델은 VGG16(단순하고 깊게 쌓은 3x3 합성곱)과 ResNet50(잔차 연결을 사용하며 더 깊고 정확함)입니다.

ImageNet 가중치를 사용하되 분류 헤드는 제외한 상태로 VGG16을 불러오면, 여기에 자체 헤드를 연결할 수 있습니다.

• weights="imagenet": 무작위 가중치 대신 사전 학습된 가중치를 불러옵니다.
• include_top=False: 원래의 밀집 분류기를 제거하여 자체 분류기를 추가할 수 있게 합니다.
• input_shape=(224,224,3): 높이, 너비, 그리고 3개의 RGB 채널을 지정합니다.

include_top=False를 설정해야 모델을 새 작업에 재사용할 수 있습니다.

base.trainable = False로 설정하면 첫 번째 학습 단계에서 사전 학습된 합성곱 가중치가 고정됩니다. 새로 추가한 헤드만 학습됩니다.

기반 모델은 (7, 7, 512)와 같은 3차원 특징 맵을 출력합니다. GlobalAveragePooling2D는 공간 격자 전체에서 각 채널의 평균을 계산하여 채널마다 하나의 값으로 축소합니다. 이 예에서는 길이가 512인 벡터가 됩니다.

이 방식은 거대한 Flatten과 Dense의 조합을 대체하여 매개변수 수를 크게 줄이고 과적합도 완화합니다.

클래스 수에 맞는 Dense 계층을 연결합니다. 다중 클래스 분류에는 softmax를, 이진 분류에는 sigmoid를 사용하십시오.

ResNet50도 동일한 API를 사용합니다. 잔차(건너뛰기) 연결을 통해 기울기 소실 없이 훨씬 더 깊은 모델을 학습할 수 있으며, 일반적으로 비슷한 속도에서 VGG16보다 ImageNet 정확도가 높습니다.

• VGG16: 약 1억 3800만 개의 매개변수, 단순하고 균일하게 쌓은 3x3 구조, 높은 메모리 사용량, 이해하기 쉬움.
• ResNet50: 약 2500만 개의 매개변수, 잔차 블록, 더 깊은 구조, 일반적으로 더 높은 정확도와 더 가벼운 모델.

대부분의 최신 전이 학습 작업에서는 ResNet50이 더 강력한 기본 선택입니다.

각 모델 계열에는 고유한 preprocess_input이 있습니다. VGG16은 RGB 평균값을 빼고, ResNet50은 이와 유사한 Caffe 스타일의 크기 조정을 사용합니다. 항상 기반 모델에 맞는 것을 가져오십시오.

기반 모델을 동결한 상태에서 일반적인 최적화 도구로 헤드를 컴파일하고 학습합니다.

model.summary()를 호출하여 기반 모델이 동결되었는지(학습 불가능한 매개변수 수가 큰지) 확인하고, 헤드만 학습 가능한지 확인하십시오. 이 점검을 통해 설정 오류를 초기에 발견할 수 있습니다.

Keras에서 전이 학습 모델을 구축하는 방법을 얼마나 이해했는지 확인해 보십시오.

VGG16과 ResNet50을 weights="imagenet", include_top=False, input_shape=(224,224,3)과 함께 불러오고, base.trainable=False로 기반 모델을 동결했습니다. 그런 다음 GlobalAveragePooling2D로 특징을 풀링하고 Dense 출력 헤드를 추가했습니다.

ResNet50이 더 강력한 기본 선택입니다. 다음에는 계층의 동결을 해제하여 미세 조정합니다.