Grad-CAM: Se, hvad modellen kigger på
Visualisér, hvilke pixels der driver en beslutning.
Grad-CAM: Se, hvad modellen kigger på er en gratis Deep Learning Academy-lektion på CoddyKit. Dette er lektion 3 af 4. Du kan læse hele lektionen gratis nedenfor — og derefter øve dig praktisk i browseren med en indbygget kodeeditor og en AI-vejleder, der er tilgængelig døgnet rundt. Den er en del af læringsforløbet i Deep Learning Academy, og dine fremskridt synkroniseres på tværs af nettet og CoddyKit-appen. Deep Learning Academy-kurset indeholder 4 lektioner i alt.
Åbn den sorte boks
En CNN kan være korrekt af den forkerte grund. Grad-CAM afslører, hvilke pixels der faktisk drev en forudsigelse, så du kan stole på den eller stille spørgsmålstegn ved den.
Varmekort over billedet
Grad-CAM tegner et varmekort oven på inputtet. Varme områder viser, hvor modellen fokuserede; kolde områder blev ignoreret. 🔥
Gradienter viser betydning
Den sporer gradienten for den valgte klasses score tilbage til et foldningslag og måler, hvor meget hvert egenskabskort betød.
Vælg et sent foldningslag
De bedste kort kommer fra det sidste foldningslag, hvor egenskaberne er rige, men stadig rumligt detaljerede nok til at kunne lokaliseres.
Vægt egenskabskortene
Beregn gennemsnittet af gradienterne for at få en vægt pr. egenskabskort, og kombinér derefter kortene med disse vægte til ét groft kort.
Behold kun det positive
En ReLU over det kombinerede kort beholder områder, der øger klassens score, og kasserer pixels, der taler imod den.
cam = torch.relu((weights * activations).sum(dim=0))Opskalér til pixelstørrelse
Kortet er lille, så du skal opskalere det til billedets opløsning, før du lægger det oven på billedet for at få en tydelig visualisering.
Find genvejsindlæring
Hvis varmekortet lyser op i baggrunden i stedet for på objektet, har din model lært en genvej og ikke det egentlige signal.
Fejlfind fejlklassifikationer
Kør Grad-CAM på forkerte forudsigelser for at se, hvad der vildledte modellen. Fokusområdet forklarer ofte fejlen med det samme.
Skab tillid hos interessenter
Tydelige visuelle beviser på, hvor en model kigger, gør det langt lettere at forklare og forsvare den i virkelige anvendelser.
Et vindue, ikke et bevis
Grad-CAM er en omtrentlig visualisering, ikke eksakt matematik. Betragt den som et stærkt fingerpeg, og bekræft derefter med andre kontroller. 🪟
overlay = heatmap * 0.4 + image * 0.6Hurtigt tjek
Tænk over, hvorfor Grad-CAM er mest nyttig, når den læses sammen med modellens forudsigelser.
Opsummering
Brug Grad-CAM til at omdanne gradienter til et varmekort over billedet, så du kan se, hvad der drev en forudsigelse, og finde genvejsindlæring. 🎯
Lær Python med en AI-underviser — gratis
Skriv og kør rigtig kode i din browser, få øjeblikkelig hjælp fra en AI-underviser døgnet rundt, og fortsæt, hvor du slap, på web eller i appen.
- Kurser
- 30
- Lektioner
- 120
Ofte stillede spørgsmål
Er lektionen “Grad-CAM: Se, hvad modellen kigger på” gratis?
Ja — hele teksten til “Grad-CAM: Se, hvad modellen kigger på” kan læses gratis her på nettet. Hvis du vil øve dig interaktivt med en indbygget kodeeditor og en AI-vejleder døgnet rundt og få adgang til resten af Deep Learning Academy-kurset, skal du opgradere til CoddyKit PRO. Deep Learning Academy-kurset indeholder 4 lektioner i alt.
Hvad lærer jeg i “Grad-CAM: Se, hvad modellen kigger på”?
Visualisér, hvilke pixels der driver en beslutning. Du øver dig i Deep Learning Academy med praktisk kode, som du kører direkte i browseren, og en AI-vejleder døgnet rundt besvarer dine spørgsmål, mens du arbejder dig gennem lektionen.
Skal jeg have erfaring for at begynde på Deep Learning Academy?
Der kræves ingen tidligere erfaring. Deep Learning Academy på CoddyKit er tilrettelagt for både begyndere og øvede, så du kan starte her eller fra begyndelsen og lære i dit eget tempo. Dette er lektion 3 af 4.
Hvor lang tid tager lektionen “Grad-CAM: Se, hvad modellen kigger på”?
De fleste CoddyKit-lektioner tager cirka 5–10 minutter. Hver lektion er kort og interaktiv, så du gør løbende fremskridt og kan fortsætte, hvor du slap – på både web og app.
Kan jeg skrive og køre kode i denne Deep Learning Academy-lektion?
Ja. Alle Deep Learning Academy-lektioner har en indbygget kodeeditor, så du kan skrive og køre rigtig kode direkte i din browser og få øjeblikkelig feedback fra AI – uden lokal opsætning.
Alle lektioner i dette kursus
- Precision, recall, F1 og ROC-AUC
- Confusion matrices og fejlanalyse
- Grad-CAM: Se, hvad modellen kigger på
- Kalibrér sikkerheden