比较贝叶斯线性回归和普通线性回归

10

最近我学习了贝叶斯线性回归模型,但我困惑的是何时应该使用线性回归,何时使用贝叶斯版本。这两者的表现如何?贝叶斯逻辑回归和逻辑回归是否相同?我读到一篇关于使用贝叶斯概率回归来预测广告点击率的论文,我只是想知道为什么要使用贝叶斯版本。


1
这不是一个真正的编程问题。尝试在http://stats.stackexchange.com上进行提问以获得更快的回复。 - mathematician1975
1个回答

15
在您的两个情况中,线性回归和逻辑回归,贝叶斯版本使用贝叶斯推断的统计分析,例如贝叶斯线性回归
根据维基百科,
这是一种频率主义方法,并且假定有足够的测量结果来说出有意义的事情。在贝叶斯方法中,数据以先验概率分布的形式补充了额外的信息。关于参数的先前信念与数据的似然函数根据贝叶斯定理相结合,得到关于参数的后验信念。
贝叶斯分析的通常方式(添加贝叶斯风味):
1.找出数据的似然函数。
2.选择所有未知参数的先验分布。
3.使用贝叶斯定理找到所有参数的后验分布。
为什么要使用贝叶斯版本?[1]
  • 贝叶斯模型更加灵活,可以处理更加复杂的模型。
  • 贝叶斯模型选择可能更优秀(BIC/AIC)。
  • 贝叶斯分层模型更容易扩展到多个级别。
  • 哲学上有不同(与频率主义分析相比)。
  • 在小样本中,贝叶斯分析更准确(但这可能取决于先验知识)。
  • 贝叶斯模型可以融合先验信息。

这里提供了一些关于贝叶斯分析的好的讲义幻灯片。


网页内容由stack overflow 提供, 点击上面的
可以查看英文原文,
原文链接