卷积神经网络中的筛选器是如何获取/定义的？

Question

如何实现深度自编码器（DAE）？如何从卷积神经网络（CNN）中获取滤波器？我的想法是这样的：对输入图像（28x28）进行随机采样，得到随机块（8x8），然后使用自编码器学习这些块的公共特征（特征 = 隐藏单元；例如约100个）。然后将特征滤波器应用于输入图像并进行卷积。我这么做正确吗？

我感到困惑的是有时文献中只使用像8这样的滤波器，但在我的情况下我有100个。例如2或3层）？有什么想法或资源吗？

- RockTheStar

---

我想帮忙，但我需要更加了解你的问题。你是在问如何选择每层的滤波器数量吗？还是要学习滤波器的代码？或者是其他什么问题？请告诉我具体需要翻译的内容。 - solvingPuzzles

Answer 1

你可以按照以下教程进行操作：http://ufldl.stanford.edu/wiki/index.php/UFLDL_Tutorial 这个教程类似于关于自编码器和一些卷积和池化的讲座。当你完成这个教程后，你将拥有自编码器的实现和简单的卷积神经网络的实现，并且已准备好堆叠它们以构建深度自动编码器。

该教程将包含以下内容：

- 28x28的MNIST图像 - 使用自编码器从中提取8x8的图像块并学习过滤器 - 使用这些8x8的过滤器对这些图像进行卷积 - 对它们进行池化 - 将池化后的向量/图像放入一个软最大分类器来学习MNIST数据库的10个不同类别。

- Doga Siyli

---

所以我可以添加这个 --> 我最终得到了以下深度网络： - Doga Siyli

第一层使用32个大小为3x3的滤波器进行卷积，并采用Sigmoid函数进行非线性处理。第二层进行子采样，也就是池化，使用2x2的大小。第三层再次使用32个大小为2x2的滤波器进行卷积，并采用Sigmoid函数进行处理。第四层进行2x2的子采样。第五层使用Softmax分类器。这样随机初始化权重后，我可以得到超过98%的准确率。我将尝试使用更大的卷积核和较少的滤波器数量，并在两周内告诉您结果。但我可以告诉您，如果不使用CNN，仅使用自编码器和最后的Softmax层，我永远无法达到97％，最高只能达到96％。 - Doga Siyli

我之前提到过有5层..但如果我的滤波器尺寸更大，我想我将无法进行超过1次卷积和1次池化..也许在最后的softmax层之前我可以再加上1个全连接自编码器。 - Doga Siyli