2． 基于激活的方法2．1 最大激活为了了解我们的神经网络在做什么，我们可以对输入图像应用滤波器，然后绘制输出，这使我们能够理解什么样的输入模式激活了一个特定的滤波器，例如，可能有一个人脸滤波器，当它在图像中出现一个人脸时会激活它。from vis．visualization import visualize＿activationfrom vis．utils import utilsfrom keras import activations

from matplotlib import pyplot as plt％matplotlib inlineplt．rcParams［＇figure．figsize＇］ ＝ （18， 6）

＃ 按名称搜索图层索引。＃ 或者，我们可以将其指定为－1，因为它对应于最后一层。layer＿idx ＝ utils．find＿layer＿idx（model， ＇preds＇）

＃用线性层替换softmaxmodel．layers［layer＿idx］．activation ＝ activations．linearmodel ＝ utils．apply＿modifications（model）

＃ 这是我们要最大化的输出节点。filter＿idx ＝ 0img ＝ visualize＿activation（model， layer＿idx， filter＿indices＝filter＿idx）plt．imshow（img［．．．， 0］）

我们可以把这个想法转移到所有的类中，并检查每个类。PS：运行下面的脚本来检查它。for output＿idx in np．arange（10）：   ＃ 让我们这次关闭详细输出以避免混乱   img ＝ visualize＿activation（model， layer＿idx， filter＿indices＝output＿idx， input＿range＝（0．， 1．））   plt．figure（）   plt．title（＇Networks perception of ｛｝＇．format（output＿idx））   plt．imshow（img［．．．， 0］）2．2 图像遮挡在一个图像分类问题中，一个简单问题是模型是否真正识别了图像中对象的位置，或者仅仅使用了周围的上下文。我们在上面基于梯度的方法中对此做了简要的介绍。基于遮挡的方法试图通过系统地用一个灰色正方形遮挡输入图像的不同部分来回答这个问题，并监视分类器的输出。示例清楚地表明，模型正在场景中定位对象，因为当对象被遮挡时，正确类的概率显著降低。

为了理解这个概念，让我们从数据集中随机抽取一张图像，并尝试绘制图像的热图。这将给我们一个直觉，图片的哪些部分是重要的，可以明确区分类别。def iter＿occlusion（image， size＝8）：
  occlusion ＝ np．full（（size ＊ 5， size ＊ 5， 1）， ［0．5］， np．float32）   occlusion＿center ＝ np．full（（size， size， 1）， ［0．5］， np．float32）   occlusion＿padding ＝ size ＊ 2

  ＃ print（＇padding．．．＇）   image＿padded ＝ np．pad（image， （    （occlusion＿padding， occlusion＿padding）， （occlusion＿padding， occlusion＿padding）， （0， 0）    ）， ＇constant＇， constant＿values ＝ 0．0）

  for y in range（occlusion＿padding， image．shape［0］ ＋ occlusion＿padding， size）：

      for x in range（occlusion＿padding， image．shape［1］ ＋ occlusion＿padding， size）：           tmp ＝ image＿padded．copy（）

          tmp［y － occlusion＿padding：y ＋ occlusion＿center．shape［0］ ＋ occlusion＿padding，              x － occlusion＿padding：x ＋ occlusion＿center．shape［1］ ＋ occlusion＿padding］              ＝ occlusion

          tmp［y：y ＋ occlusion＿center．shape［0］， x：x ＋ occlusion＿center．shape［1］］ ＝ occlusion＿center

          yield x － occlusion＿padding， y － occlusion＿padding，              tmp［occlusion＿padding：tmp．shape［0］ － occlusion＿padding， occlusion＿padding：tmp．shape［1］ － occlusion＿padding］
i ＝ 23 ＃ 例如data ＝ val＿x［i］correct＿class ＝ np．argmax（val＿y［i］）

＃ model．predict的输入向量inp ＝ data．reshape（1， 28， 28， 1）

＃ matplotlib imshow函数的图片img ＝ data．reshape（28， 28）

＃ 遮盖img＿size ＝ img．shape［0］occlusion＿size ＝ 4

print（＇occluding．．．＇）
heatmap ＝ np．zeros（（img＿size， img＿size）， np．float32）class＿pixels ＝ np．zeros（（img＿size， img＿size）， np．int16）

from collections import defaultdictcounters ＝ defaultdict（int）

for n， （x， y， img＿float） in enumerate（iter＿occlusion（data， size＝occlusion＿size））：

   X ＝ img＿float．reshape（1， 28， 28， 1）    out ＝ model．predict（X）    ＃print（＇＃｛｝： ｛｝ ＠ ｛｝ （correct class： ｛｝）＇．format（n， np．argmax（out）， np．amax（out）， out［0］［correct＿class］））    ＃print（＇x ｛｝ － ｛｝ ｜ y ｛｝ － ｛｝＇．format（x， x ＋ occlusion＿size， y， y ＋ occlusion＿size））

   heatmap［y：y ＋ occlusion＿size， x：x ＋ occlusion＿size］ ＝ out［0］［correct＿class］    class＿pixels［y：y ＋ occlusion＿size， x：x ＋ occlusion＿size］ ＝ np．argmax（out）    counters［np．argmax（out）］ ＋＝ 1