多层感知机神经网络中的隐藏层数量会对神经网络的行为产生什么影响?同样的问题也适用于隐藏层中节点数量。
假设我想使用神经网络进行手写字符识别。在这种情况下,我将像素颜色强度值作为输入节点,并将字符类作为输出节点。
那么我该如何选择隐藏层和节点数量来解决这样的问题呢?
多层感知机神经网络中的隐藏层数量会对神经网络的行为产生什么影响?同样的问题也适用于隐藏层中节点数量。
假设我想使用神经网络进行手写字符识别。在这种情况下,我将像素颜色强度值作为输入节点,并将字符类作为输出节点。
那么我该如何选择隐藏层和节点数量来解决这样的问题呢?
注意:此答案在回答时是正确的,但现已过时。
神经网络中很少有超过两个隐藏层。层数通常不会是您担心的网络参数之一。
尽管具有许多层的多层神经网络可以表示深度电路,但训练深度网络仍然被视为一个挑战。直到最近,实证研究通常发现,深层网络通常表现不佳,且往往比具有一到两个隐藏层的神经网络差。
这篇引用的论文是学习网络深度、教授深度网络和深度学习的进展的良好参考。
一般而言,选取超参数的方法是进行交叉验证。保留一部分数据集,使用不同的配置对神经网络进行训练,选择在保留数据集上表现最好的模型。
总的来说:
始终记住,需要探索和尝试很多不同的组合。此外,可以使用GridSearch
找到"最佳模型和参数"。
例如,我们可以进行GridSearch以确定隐藏层的“最佳”大小。