为什么在岭回归中偏置项不被正则化？

Question

13

在大多数分类算法（例如逻辑/线性回归）中，偏置项在正则化时被忽略。如果我们不对偏置项进行正则化，是否可以获得更好的分类效果？

- user1599171

1个回答

网页内容由stack overflow 提供, 点击上面的

可以查看英文原文，
原文链接

- Def_Os · Accepted Answer

例子：

Y = aX + b

正则化的基本思想是过拟合Y是由于a“过度具体化”，这通常表现为a的元素值过大。

b仅仅是关系的偏移量，因此其比例对于这个问题来说并不那么重要。此外，如果出于某种原因需要一个大的偏移量，对其进行正则化会防止找到正确的关系。

所以答案在于：在Y = aX + b中，a与解释/独立变量相乘，而b则加到其上。