面向CNN的类激活映射算法研究
信息技术与网络安全 1期
杨继增，关胜晓
(中国科学技术大学 信息科学技术学院，安徽 合肥230026)
摘要： 类激活映射(CAM)是卷积神经网络(CNN)解释中的一种直观的方法，通常由CNN的最后一个卷积层生成，可以突出显示输入图片中目标类的不同区域。之前的CAM方法只依赖于最后的卷积层，生成的解释图只能显示模糊的物体位置信息。提出了一种新的方法即分层加权类激活映射方案(SL-CAM)，通过加权合并CNN浅层到深层的信息来生成类激活图。由浅层特征图及其对应的梯度生成的激活图包含详细、准确但噪声大的位置信息；而由深层特征图生成的激活图包含噪声少但模糊的位置信息。在LSVRC2012 Val上的实验表明，SL-CAM多项指标上均优于Grad-CAM、Grad-CAM++和Score-CAM。
中圖分類號： TP183
文獻標識碼： A
DOI： 10.19358/j.issn.2096-5133.2022.01.010
引用格式： 楊繼增，關勝曉. 面向CNN的類激活映射算法研究[J].信息技術與網絡安全，2022，41(1)：63-68.
文獻標識碼： A
DOI： 10.19358/j.issn.2096-5133.2022.01.010
引用格式： 楊繼增，關勝曉. 面向CNN的類激活映射算法研究[J].信息技術與網絡安全，2022，41(1)：63-68.
A class activation mapping algorithm for CNN
Yang Jizeng，Guan Shengxiao
(School of Information Science and Technology，University of Science and Technology of China，Hefei 230026，China)
Abstract： Class activation mapping(CAM) is a straightforward method in the interpretation of convolutional neural networks(CNN), usually generated by the last convolution layer of CNN, which can highlight different object regions of the target class. Several previous CAM methods only depend on the final convolution layer, so the class activation map, generated by these, can only show the rough object position information. A new method called score-weighted & layer-wise class activation mapping(SL-CAM) was proposed to generate class activation maps by merging shallow to deep information of CNN. The class activation map generated from the shallow feature map and its corresponding gradient contains detailed and accurate location information with more noise. The activation map generated from the deep feature map contains less noise with rough location information. SL-CAM outperforms Grad-CAM, Grad-CAM++ and Score-CAM on ILSVRC2012 Val.
Key words : class activation mapping；convolutional neural networks；visualization
0 引言
近年來，以CNN為代表的深度學習在計算機視覺領域取得了突出的成果。使用端到端模型訓練分類器的CNN可以很好地完成大量的圖像處理任務。然而，端到端模型的黑盒屬性使CNN能夠直接基于輸入給出結果。早期的人工智能系統的內部機制主要是邏輯和符號，CNN的解釋方法被提出后，可視化成為最直接的策略。換句話說，可視化網絡預測結果與輸入圖片的一些關聯區域，如輸入特征的重要性或學習的權重，已經成為最直接的方法。基于梯度[1]、基于擾動[2]、基于CAM[3]是三種被廣泛采用的方法。
基于梯度的方法通常獲取含有大量噪聲的低質量的解釋圖。其步驟如下：首先，通過網絡的反向傳播得到輸入空間的梯度圖；其次，對梯度圖進行處理得到表示輸入圖片對特定類輸出結果貢獻程度的熱力圖。基于擾動的方法[2，4]通常用擾動噪聲改變原始輸入來觀察模型預測得分的變化。然而，此方法需要花費大量時間來迭代查詢模型預測結果。
本文詳細內容請下載：http://m.tom3567.com/resource/share/2000003938
作者信息：
楊繼增，關勝曉
(中國科學技術大學 信息科學技術學院，安徽 合肥230026)
此內容為AET網站原創，未經授權禁止轉載。