我应该在用遗传算法训练的人工神经网络中添加偏置吗？

Question

4

我有一个控制人工食草动物的人工神经网络。输入包括最近植物的大小和方向、最近配偶的大小和方向以及食草动物的健康状况。输出是一个运动向量（方向和大小）。如果使用遗传算法进行训练，是否有必要使用偏置？

- Conner Ruhl

2

取决于遗传算法的实现方式和问题的复杂程度。在选择新种群和确定适应度值时，您应该始终保持一定的偏见。 - Marek Sebera

1

人工神经网络内部存在偏差，而遗传算法则没有。 - Conner Ruhl

啊，是我的错。不，那种情况下，我相信没有必要。 - Marek Sebera

我认为偏置用于将神经元的输出适应到特定范围内，您应该决定是否需要。它不应影响遗传算法的性能... - yurib

2个回答

-2

你应该使用偏置，偏置不仅可以让你解决非线性可分问题；还可以训练伪阈值，这是偏置神经元与其他神经元之间的互联。一般来说，它更有可能帮助你的尝试而不是妨碍它们。

- Romaine Carter

1

“偏置项允许您解决非线性可分问题” - 这句话怎么样？带有偏置/截距项的单层感知器仍然是一个线性模型。 - Fred Foo

没错，但偏置神经元不会影响解决方案。 - Romaine Carter

网页内容由stack overflow 提供, 点击上面的

可以查看英文原文，
原文链接

- Niclas · Accepted Answer

偏置用于将神经网络的决策边界移开原点。对于一个执行简单线性分类的感知器来说，这等同于移动分离两个类别的直线（可以将其视为简单线性回归中的 c）。

遗传算法只是搜索最优权重的众多方法之一。它并不在意是否有偏置，因为对于它而言，偏置只是另一个权重！

因此，请使用偏置，它可以加快训练速度，并使网络能够学习可能无法学习的模式！

编辑以回答您的具体问题：不，没有必要专门使用偏置，网络也可以正常工作，但由于它非常容易实现并改善您的网络，因此请使用它！