阈值和偏置在神经网络中。

Question

阈值和偏置在神经网络中。

machine-learningneural-networkterminology

3

我是一个新手..我不明白为什么在MLP（多层感知器）中我们要使用阈值和偏置？阈值和偏置的作用是什么..而且我不知道输出的公式（在我们使用激活函数如sigmoid之后得到的结果）遵循的是什么样的阈值和偏置..在同一份文件中，我看到：

output_value=activation_function(summing_function+threshold) (follow Jeff Heaton)
output_value=activation_function(summing_function-threshold)(follow my teacher)
output_value=activation_function(summing_function+bias) (no problem!)

哪个是正确的？请给我一个回答！

而且，在多层感知机中，偏差和阈值可以同时存在吗？

- Ricky Tran

2

这个问题已经有一个很好的答案了，可以在这里找到。 - Florian von Stosch

1个回答

网页内容由stack overflow 提供, 点击上面的

可以查看英文原文，
原文链接

- lejlot · Accepted Answer

偏置和阈值在MLP中是相同的概念，只是两个不同的名称。符号并不重要，因为偏置可以是正数也可以是负数（但使用+偏置更常见）。

简单地说，如果没有偏置，则仅输入0时，您会得到summing_function=0，因此output_value=0（因为大多数激活函数都通过原点）。因此，您的网络不能学习该类型信号的任何其他行为，因为整个模型中只有更改部分的权重。

从更数学的角度来看，这负责移动激活函数并赋予神经网络通用逼近器的能力。