如何从深度CNN输出创建不确定性颜色映射图像？

Question

我正在设计用于城市特征检测的深度CNN分类器。我的网络大部分时间可以正确地对建筑进行分类和分割，但有时会因为照明/外观相似等原因与其他物体混淆。

我想创建一个彩色地图，以及能够表示分类器置信度的分割图像。我已经使用softmaxwith loss来训练网络。

layer {
  name: "score"
  type: "Deconvolution"
  bottom: "pool_3"
  top: "score"
  convolution_param {
    num_output: 2
    bias_term: false
    pad:2
    kernel_size: 8
    stride: 4
  }
}

我希望得到类似于这张颜色映射图像的输出：

我的问题是

1. 如何计算不确定度？
2. 在计算不确定度时如何处理负值？

注意：目前，我能够使用熵得到颜色地图。

- vikram meena

Answer 1

您可能想要进行一个遮挡敏感性实验，以建立一个最重要图像区域的热度图。

来自AI StackExchange上这个答案：

引用： “这是个想法。假设ConvNet将一张图片分类为狗。我们如何确信它实际上是在捕捉到图片中的狗，而不是从背景或其他杂物的一些上下文线索中捕捉到的？”

“一种调查某些分类预测来自图像哪个部分的方法是通过绘制感兴趣类别（例如狗类）的概率作为遮挡物位置的函数。如果我们迭代地遍历图像的各个区域，用全零替换它并检查分类结果，我们可以建立一个二维热度图，显示网络在特定图像上最重要的内容。”

- Maxim