Grad-CAM: Modelin Neye Baktığını Görme

Bir CNN, yanlış nedenle doğru sonuç verebilir. Grad-CAM, bir tahmini gerçekten hangi piksellerin yönlendirdiğini ortaya çıkarır; böylece sonuca güvenip güvenemeyeceğinizi sorgulayabilirsiniz.

Grad-CAM, girdinin üzerine bir ısı haritası yerleştirir. Sıcak bölgeler modelin odaklandığı, soğuk bölgeler ise göz ardı ettiği yerlerdir. 🔥

Seçilen sınıf puanının gradyanını geriye doğru bir evrişim katmanına kadar izler ve her özellik haritasının ne kadar önemli olduğunu ölçer.

En iyi haritalar, özelliklerin zengin olduğu ancak konum belirlemeye yetecek kadar uzamsal bilginin hâlâ korunduğu son evrişimsel katmandan gelir.

Her özellik haritası için bir ağırlık elde etmek üzere gradyanların ortalamasını alın; ardından haritaları bu ağırlıklarla birleştirerek tek ve kaba bir harita oluşturun.

Birleşik harita üzerinde uygulanan ReLU, sınıf puanını artıran bölgeleri tutar ve sınıfa karşı kanıt oluşturan pikselleri eler.

Harita küçük olduğundan, net bir görsel elde etmek için üzerine yerleştirmeden önce onu görüntünün çözünürlüğüne büyütün.

Isı haritası nesne yerine arka planı aydınlatıyorsa modeliniz gerçek sinyali değil, bir kestirmeyi öğrenmiştir.

Modeli neyin yanılttığını görmek için Grad-CAM'i yanlış tahminlerde çalıştırın. Odak bölgesi çoğu zaman hatayı hemen açıklar.

Bir modelin nereye baktığına dair açık görsel kanıt, gerçek kullanımlarda modeli açıklamayı ve savunmayı çok kolaylaştırır.

Grad-CAM kesin matematik değil, yaklaşık bir görselleştirmedir. Onu güçlü bir ipucu olarak değerlendirin ve ardından başka denetimlerle doğrulayın. 🪟

Tahmini yönlendiren unsurları ortaya çıkarmak ve kestirme öğrenmeyi yakalamak için gradyanları görüntü üzerindeki bir ısı haritasına dönüştüren Grad-CAM'i kullanın. 🎯