Grad-CAM : voir ce que le modèle observe
Visualisez les pixels qui déterminent une décision.
Grad-CAM : voir ce que le modèle observe est une leçon Deep Learning Academy gratuite sur CoddyKit. Ceci est la leçon 3 sur 4. Tu peux lire la leçon complète ci-dessous gratuitement — puis la pratiquer en direct dans le navigateur avec un éditeur de code intégré et un tuteur IA 24/7. Elle fait partie du parcours d'apprentissage Deep Learning Academy, et ta progression se synchronise sur le web et l'application CoddyKit. Le cours Deep Learning Academy comprend 4 leçons au total.
Certaines parties de cette leçon n'ont pas encore été traduites et s'affichent en anglais.
Open the Black Box
A CNN can be right for the wrong reason. Grad-CAM reveals which pixels actually drove a prediction, so you can trust or question it.
Heatmaps Over the Image
Grad-CAM paints a heatmap on top of the input. Warm regions are where the model focused; cool regions it ignored. 🔥
Gradients Carry Importance
It traces the gradient of the chosen class score back to a convolutional layer, measuring how much each feature map mattered.
Pick a Late Conv Layer
The best maps come from the last convolutional layer, where features are rich yet still spatial enough to localize.
Weight the Feature Maps
Average the gradients to get a weight per feature map, then combine the maps with those weights into one coarse map.
Keep Only the Positive
A ReLU over the combined map keeps regions that push the class up, discarding pixels that argue against it.
cam = torch.relu((weights * activations).sum(dim=0))Upsample to Pixel Size
The map is small, so you upsample it to the image resolution before overlaying it for a clear visual.
Catch Shortcut Learning
If the heatmap lights up the background instead of the object, your model learned a shortcut, not the real signal.
Debug Misclassifications
Run Grad-CAM on wrong predictions to see what misled the model. The focus region often explains the error instantly.
Build Stakeholder Trust
Clear visual evidence of where a model looks makes it far easier to explain and defend in real deployments.
A Window, Not a Proof
Grad-CAM is an approximate visualization, not exact math. Treat it as a strong hint, then confirm with other checks. 🪟
overlay = heatmap * 0.4 + image * 0.6Quick Check
Think about why Grad-CAM is most useful when read alongside model predictions.
Recap
Use Grad-CAM to turn gradients into a heatmap over the image, exposing what drove a prediction and catching shortcut learning. 🎯
Questions Fréquemment Posées
La leçon « Grad-CAM : voir ce que le modèle observe » est-elle gratuite ?
Oui — le texte complet de « Grad-CAM : voir ce que le modèle observe » est gratuit à lire ici sur le web. Pour la pratiquer de manière interactive (un éditeur de code intégré et un tuteur IA 24/7) et déverrouiller le reste du cours Deep Learning Academy, passe à CoddyKit PRO. Le cours Deep Learning Academy comprend 4 leçons au total.
Qu'est-ce que j'apprendrai dans « Grad-CAM : voir ce que le modèle observe » ?
Visualisez les pixels qui déterminent une décision. Tu pratiques Deep Learning Academy avec du code pratique que tu exécutes directement dans le navigateur, et un tuteur IA 24/7 répond à tes questions au fur et à mesure que tu avances dans la leçon.
Dois-je avoir de l'expérience pour commencer Deep Learning Academy ?
Aucune expérience préalable n'est requise. Deep Learning Academy sur CoddyKit est structuré pour les débutants jusqu'aux apprenants avancés, donc tu peux commencer ici ou depuis le début et avancer à ton rythme. Ceci est la leçon 3 sur 4.
Combien de temps prend la leçon « Grad-CAM : voir ce que le modèle observe » ?
La plupart des leçons CoddyKit prennent environ 5–10 minutes. Chacune est courte et interactive, tu progresses régulièrement et tu repiques exactement où tu t'es arrêté sur le web et l'app.
Peux-tu écrire et exécuter du code dans cette leçon Deep Learning Academy ?
Oui. Chaque leçon Deep Learning Academy inclut un éditeur de code intégré, tu écris et exécutes du vrai code directement dans ton navigateur et tu reçois des retours IA instantanés — aucune configuration locale requise.
Toutes les leçons de ce cours
- Précision, rappel, F1 et ROC-AUC
- Matrices de confusion et analyse des erreurs
- Grad-CAM : voir ce que le modèle observe
- Étalonner la confiance