13得票4回答
如何在Airflow中跳过任务?

我想了解Airflow是否支持在DAG中跳过任务进行adhoc执行? 假设我的DAG图如下: task1 > task2 > task3 > task4 我想手动从task3开始启动DAG,最好的方法是什么? 我已经阅读了ShortCircuitOperator,但我正在寻找更多的adh...

13得票2回答
在d3.js中的有向无环图

现在有可靠的方法在D3.js中绘制有向无环图吗?我正在尝试可视化课程中的先决条件,类似于这个链接。 我看到了一些旧答案类似的问题,其中最有希望的线索是这个hack,但它在处理更大和更复杂的数据集时效果不是很可靠。 这只是D3不理想的可视化情况之一吗?

13得票3回答
合并两个有向无环图的高效算法

我有两个加权DAG(有向无环图),需要将它们合并为一个,以便获得一个拓扑排序(在某些情况下可能会超过两个)。问题在于,这些图各自都是无环的,但一起可能形成循环。此外,这些图很大(100k+节点,500k+边)。 有没有聪明的方法来合并这些图?同样好的方案是编写一种算法以“同时”遍历所有图。 ...

13得票4回答
面向DAG的Git浏览器?

有一些介绍git的入门教程,包括漂亮的图表,例如visual-git-guide和git-for-computer-scientists,可以帮助你理解“git的历史仅是一个DAG”的概念。我想知道为什么(貌似)没有基于这个模型的可视化git浏览器来表示历史记录。 以下是几个现有的可视化gi...

13得票2回答
生成make命令的DAG图?

我的理解是,当make执行时,它会内部生成一个有向无环图(DAG)来表示项目中的所有依赖关系。是否有一种方法可以访问该DAG并将其绘制成图形,例如使用graphviz?我在Ubuntu 8.04上使用gnu make。 编辑:我刚刚发现了这些名为mamdag和mamdot的工具。它们应该适用...

12得票1回答
一个DAG的最佳内存跟踪方式,用于依赖评估。

我正在寻找一种算法来优化DAG上的评估顺序,以使用最少的内存。可能有点难以解释,所以我会举个例子来说明我的意思。考虑一个具有多个根节点的DAG,它表示某种依赖关系的评估顺序。因此,每个子节点只能在其父节点执行后执行其操作。另外,我们可以从内存中释放不再需要的每个节点。任务是找到最优的顺序评估时...

12得票4回答
增量线性化的git DAG

我是GitX的作者之一。GitX的一个功能是分支可视化,可以在这里看到。 目前,这种可视化是通过按正确顺序从git中读取提交来完成的。对于每个提交,都知道其父级,因此很容易以正确的方式构建车道。 我想通过使用自己的提交池并自己线性化提交来加快此过程。这允许我重用已加载的提交,并允许git更...

12得票4回答
Airflow 1.10.3的SubDag只能并行运行一个任务,即使并发数为8。

最近,我将Airflow从1.9升级到了1.10.3(最新版)。 但是我注意到与SubDag并发相关的性能问题。只有一个子Dag内的1个任务可以被选中,这不是应该的方式,我们为SubDag设置的并发数为8。 请参见以下内容: get_monthly_summary-214和get_mont...

12得票4回答
大型DAG的拓扑排序示例

我正在寻找在处理大型图形时进行拓扑排序的实际应用。 一些领域可能会遇到这种情况,例如生物信息学、依赖项解析、数据库、硬件设计、数据仓库等。但我希望你们中的一些人可能遇到或听说过需要拓扑排序的特定算法/项目/应用程序/数据集。 即使数据/项目可能无法公开访问,任何提示(以及潜在图形大小的数量...

12得票1回答
如何在Haskell中定义一棵树形DAG

如何在Haskell中定义一个带有一个根节点的字符串有向无环图(DAG)最好的方法? 我特别需要尽可能快地对这个数据结构应用以下两个函数: 1.找到一个元素的所有(直接和间接)祖先(包括父母的父母等)。 2.找到一个元素的所有(直接)子元素。 我考虑过使用[(String,[Strin...