Grad-CAM: Visual Explanations from Deep Networks via Gradient-based Localization

기존의 CAM(Class Activation Map) 은 마지막 Fully Connected Layer를 Global Average Pooling으로 변경해야만 얻을 수 있다는 제약이 있음. 이 문제를 해결한 Generalized 한 Grad-CAM.

대상 conv layer를 일단 CAM과 같이 마지막 레이어로 두고 생각해보자. Grad-CAM은 마지막 conv 레이어에 들어오는 gradient 정보를 사용해서 타겟 레이블에 대해 각 뉴런이 가지는 중요도를 이해한다고 한다.

Image Classification 오탐에서 왜 오탐인지, 어디를 보고 오탐했는지에 대해서 평가 가능