因果模型和有向图模型有什么区别?

17
什么是因果模型和有向图模型的区别?因果关系和有向概率关系有什么区别?更具体地说,您将在DirectedProbabilisticModel类的接口中放置什么,以及在CausalModel类中放置什么?它们之间是否相互继承?

我认为如果机器学习是一个标签,那么与机器学习相关的问题就是公平竞争的:这显然与计算机科学有关。我正在努力理解这个链接:http://ftp.cs.ucla.edu/pub/stat_ser/r350.pdf - Neil G
4个回答

12

《因果推断》是值得一读的书。

两者之间的区别在于一个是因果的,而另一个仅仅是统计学的。在你把我当作“重言式俱乐部”的成员并驳回我的观点之前,请听我说完。

有向概率关系(也称为完备的条件概率表集合,或贝叶斯网络)只包含统计信息。这意味着你可以从联合概率表中推断出任何事情,同样的,你可以从有向概率关系中推断出任何事情,没有多余的信息。两者是等价的。

而因果关系则是完全不同的。因果关系(也称为因果贝叶斯网络)必须指定在任何变量干预下会发生什么。干预是指将变量强制设置为模型正常影响范围之外的值。这相当于使用一个新的表格替换被强制设置的变量(或变量,但为了简单起见,我们只考虑一个变量)的条件概率,使该变量以概率为1取其强制值。

如果您不理解,请跟进联系我,我会进一步解释。

本节是为了回答Neil在评论中提出的问题而添加的

Neil问:

在没有进行干预的情况下,如何确定有向概率关系的方向?换句话说,有向图模型是否具有因果信息(即条件于干预的概率信息)?

你可以通过做出额外的非统计学假设来确定有向概率关系的方向。这些假设通常包括:假设没有隐藏变量,以及真正重要的假设是,假定在联合分布中发现的条件独立关系是稳定的(即它们存在不是由于偶然或抵消)。贝叶斯网络做这些假设。

有关如何恢复方向的详细信息,请查阅IC、PC和IC*算法。我认为IC的具体细节在《推断因果关系的理论》一文中有介绍。


@Neil,我在我的答案中添加了一个新的部分来回答你的问题。 - Carlos Rendon
1
@Neil,CausalModel类继承自DirectedProbabilisticModel类。DPM类具有接口,让您指定想要的P(x | y)。CM类具有接口,让您指定想要的P(x | y,do(z)),其中“do(z)”表示某种干预。由于可能没有干预,因此addIntervention接口只适用于CM,而其他接口是通用的。 - Carlos Rendon
1
我的理解是,有向图模型和因果模型基本上是相同的。不同之处在于,在因果模型中,箭头必须按照正确的因果方式进行,而在有向图模型中,箭头只需遵守依赖关系。这意味着每个因果模型也都是一个有向图模型。但你说因果模型完全是另一回事。 - ziggystar
@ziggystar 我特别指的是由Judea Pearl在《因果关系》一书中定义的因果贝叶斯网络。当其他人说“因果模型”时,可能意思不同。就像说“图形模型”并不一定意味着你在谈论贝叶斯网络。 - Carlos Rendon
你的回答仍然是完全正确的,帮助我理解了当前的情况。我希望你不介意,因为你在十年前回答了我,所以我现在提供了一个简单的答案来总结它的主要观点。 - Neil G
显示剩余4条评论

3
有两种因果模型:干预模型和反事实模型。所有有向图模型都可以进行观测推理。干预模型是一种有向图模型,可以使用观测和干预证据进行推理。反事实模型可以使用观测、干预和反事实证据(源自模型内的推断)进行推理。
在几年前的一封私人电子邮件中,Pearl 给我写道:
“按照定义,模型是一系列假设,而假设从来不会‘被确认为真实’。它们可能会被理论、数据或实验所证实。但它们在层次结构中的位置取决于它们所声称的内容,而不是它们的来源。”

0

有向图模型是一种编码变量之间因果关系的方式。 概率图模型是一种以概率方式编码因果关系的方法。 我建议阅读由Judea Pearl撰写的this书籍,他是该领域的先驱之一(我在您在评论中提到的论文中看到您提到了他)。

有向图仅仅是一个带有方向的图形(节点和边缘)。因果模型是告诉您变量如何相互影响的模型,其中一种方法是使用有向图。人工智能研究表明,确定性因果关系不足以编码我们周围世界的知识,因为它太混乱了。这就是为什么概率被加入到这个领域的原因。


0
如果我正确理解this post的话,普通模型和有向图模型(贝叶斯网络)旨在不同的工作流程阶段。普通模型是一种分配依赖关系的方式,使它们反映因果关系。 贝叶斯网络为我们提供了推理技术。 因此,可以使用不同的方法执行估计。 另一方面,人们可以使用不同的技术对贝叶斯网络进行建模,而不是SCM。
如果您进一步探究,请告诉我们,因为我并不完全理解SCM的主题(虽然我愿意 :)。

我真的认为因果模型和有向图模型之间唯一的区别在于,在干预后,因果模型仍然保持信息量丰富。换句话说,它们实现了我上面定义的接口。 - Neil G

网页内容由stack overflow 提供, 点击上面的
可以查看英文原文,
原文链接