Grad-CAM: vea qué observa el modelo

Una CNN puede acertar por el motivo equivocado. Grad-CAM revela qué píxeles impulsaron realmente una predicción, para que pueda confiar en ella o cuestionarla.

Grad-CAM superpone un mapa de calor a la entrada. Las regiones cálidas indican dónde se centró el modelo; las frías, qué ignoró. 🔥

Traza el gradiente de la puntuación de la clase elegida hasta una capa convolucional y mide cuánto aportó cada mapa de características.

Los mejores mapas proceden de la última capa convolucional, donde las características son ricas y aún conservan suficiente información espacial para localizarlas.

Calcule la media de los gradientes para obtener un peso por mapa de características y, después, combine los mapas con esos pesos en un único mapa aproximado.

Una ReLU aplicada al mapa combinado conserva las regiones que aumentan la puntuación de la clase y descarta los píxeles que apuntan en su contra.

El mapa es pequeño, así que debe aumentar su resolución hasta la de la imagen antes de superponerlo y obtener una visualización clara.

Si el mapa de calor se ilumina en el fondo en lugar de hacerlo sobre el objeto, su modelo ha aprendido un atajo, no la señal real.

Ejecute Grad-CAM sobre las predicciones incorrectas para ver qué confundió al modelo. La región en la que se centró suele explicar el error al instante.

Una evidencia visual clara de dónde observa el modelo facilita mucho explicarlo y defenderlo en implementaciones reales.

Grad-CAM es una visualización aproximada, no una demostración matemática exacta. Tómela como una pista importante y confírmela con otras comprobaciones. 🪟

Use Grad-CAM para convertir los gradientes en un mapa de calor sobre la imagen, revelar qué impulsó una predicción y detectar el aprendizaje de atajos. 🎯