Grad-CAM: zobaczyć, na co patrzy model
Wizualizować piksele wpływające na decyzję
Grad-CAM: zobaczyć, na co patrzy model to bezpłatna lekcja Deep Learning Academy na CoddyKit. To lekcja 3 z 4. Możesz przeczytać całą lekcję poniżej za darmo — a potem ćwiczyć ją interaktywnie w przeglądarce z wbudowanym edytorem kodu i tutorem AI dostępnym 24/7. To część ścieżki edukacyjnej Deep Learning Academy, a Twój postęp synchronizuje się między webem a aplikacją CoddyKit. Kurs Deep Learning Academy zawiera 4 lekcji w sumie.
Otwórz czarną skrzynkę
Sieć CNN może udzielić poprawnej odpowiedzi z niewłaściwego powodu. Grad-CAM ujawnia, które piksele rzeczywiście wpłynęły na predykcję, dzięki czemu można jej zaufać albo ją zakwestionować.
Mapy cieplne na obrazie
Grad-CAM nakłada mapę cieplną na dane wejściowe. Ciepłe obszary pokazują, na których miejscach skupił się model, a chłodne — które zignorował. 🔥
Gradienty niosą informację o ważności
Metoda śledzi gradient wyniku wybranej klasy wstecz do warstwy konwolucyjnej, mierząc znaczenie każdej mapy cech.
Wybierz późną warstwę konwolucyjną
Najlepsze mapy pochodzą z ostatniej warstwy konwolucyjnej, w której cechy są bogate, ale nadal wystarczająco przestrzenne, by można je było zlokalizować.
Nadaj wagi mapom cech
Uśrednij gradienty, aby uzyskać wagę dla każdej mapy cech, a następnie połącz mapy za pomocą tych wag w jedną zgrubną mapę.
Zachowaj tylko wartości dodatnie
Funkcja ReLU zastosowana do połączonej mapy zachowuje obszary, które zwiększają wynik klasy, i odrzuca piksele przemawiające przeciwko niej.
cam = torch.relu((weights * activations).sum(dim=0))Przeskaluj do rozmiaru pikseli
Mapa jest mała, dlatego przed nałożeniem jej na obraz należy ją powiększyć do rozdzielczości obrazu, aby uzyskać czytelną wizualizację.
Wykryj uczenie się na skróty
Jeśli mapa cieplna podświetla tło zamiast obiektu, model nauczył się skrótu, a nie rzeczywistego sygnału.
Debuguj błędne klasyfikacje
Uruchom Grad-CAM dla błędnych predykcji, aby zobaczyć, co zmyliło model. Obszar skupienia często natychmiast wyjaśnia błąd.
Buduj zaufanie interesariuszy
Jasny wizualny dowód tego, na co patrzy model, znacznie ułatwia jego wyjaśnianie i obronę w rzeczywistych wdrożeniach.
Wskazówka, nie dowód
Grad-CAM to przybliżona wizualizacja, a nie ścisły dowód matematyczny. Traktuj ją jako silną wskazówkę, a następnie potwierdź wnioski innymi metodami. 🪟
overlay = heatmap * 0.4 + image * 0.6Szybkie sprawdzenie
Zastanów się, dlaczego Grad-CAM jest najbardziej użyteczny, gdy analizuje się go razem z predykcjami modelu.
Podsumowanie
Używaj Grad-CAM, aby zamieniać gradienty w mapę cieplną na obrazie, ujawniać, co wpłynęło na predykcję, i wykrywać uczenie się na skróty. 🎯
Ucz się Python dzięki korepetycjom AI — za darmo
Pisz i uruchamiaj kod w przeglądarce, otrzymuj natychmiastową pomoc od korepetytora AI dostępnego 24/7 i kontynuuj naukę w sieci lub w aplikacji.
- Kursy
- 30
- Lekcje
- 120
Często zadawane pytania
Czy lekcja „Grad-CAM: zobaczyć, na co patrzy model” jest bezpłatna?
Tak — pełny tekst „Grad-CAM: zobaczyć, na co patrzy model” jest dostępny za darmo tutaj w sieci. Aby ćwiczyć ją interaktywnie (wbudowany edytor kodu i tutor AI dostępny 24/7) i odblokować resztę kursu Deep Learning Academy, przejdź na CoddyKit PRO. Kurs Deep Learning Academy zawiera 4 lekcji w sumie.
Co nauczysz się w „Grad-CAM: zobaczyć, na co patrzy model”?
Wizualizować piksele wpływające na decyzję Ćwiczysz Deep Learning Academy z praktycznym kodem, który uruchamiasz bezpośrednio w przeglądarce, a tutor AI dostępny 24/7 odpowiada na Twoje pytania podczas pracy nad lekcją.
Czy potrzebuję doświadczenia, aby zacząć Deep Learning Academy?
Nie wymagamy żadnego doświadczenia. Deep Learning Academy w CoddyKit jest strukturyzowany dla początkujących i zaawansowanych użytkowników, więc możesz zacząć tutaj lub od początku i uczyć się w swoim tempie. To lekcja 3 z 4.
Ile czasu zajmuje lekcja „Grad-CAM: zobaczyć, na co patrzy model”?
Większość lekcji CoddyKit trwa około 5–10 minut. Każda lekcja to mały, interaktywny krok, dzięki czemu robisz systematyczne postępy i zawsze wracasz dokładnie do tego samego miejsca — na webie i w aplikacji.
Czy mogę pisać i uruchamiać kod w tej lekcji Deep Learning Academy?
Tak. Każda lekcja Deep Learning Academy zawiera wbudowany edytor kodu, więc piszesz i uruchamiasz prawdziwy kod bezpośrednio w przeglądarce i od razu otrzymujesz sprzężenie zwrotne od AI — bez konfiguracji na komputerze.
Wszystkie lekcje w tym kursie
- Precision, recall, F1 i ROC-AUC
- Macierze pomyłek i analiza błędów
- Grad-CAM: zobaczyć, na co patrzy model
- Kalibracja pewności