16得票1回答
TPL Dataflow和响应式扩展(Rx)相比,有哪些使用案例?

我正在考虑用其中之一或两者的组合编写一些信号处理算法。 性能不是重点,更重要的是表达意图的清晰度。 我将实现以下“块”并组合它们: 滤波器(FIR和IIR) 相位检测器 积分器 混频器 函数发生器 PLL(使用以上模块构建) 我明白Rx可以被认为是“Linq-to-streams”...

15得票1回答
能否编写一个Luigi包装任务来容忍失败的子任务?

我有一个Luigi任务,执行一些不稳定的计算。可以将其视为一种优化过程,有时无法收敛。import luigi MyOptimizer(luigi.Task): input_param: luigi.Parameter() output_filename = luigi.Pa...

13得票3回答
Python中具有依赖关系的懒加载数据流(类似电子表格)属性

我的问题如下:我有一些Python类,其中的属性是从其他属性派生而来的;一旦计算出这些属性,它们就应该被缓存,并且每当基本属性发生更改时,缓存的结果应该被无效化。 我可以手动完成这项工作,但如果属性数量增加,维护起来似乎非常困难。因此,我希望在我的对象内部拥有类似于Makefile规则的东西...

12得票6回答
如何让SSIS数据流在平面文件中放置'0.00'?

我有一个包含数据流的SSIS包,该数据流使用ADO.NET数据源(仅为小表),执行select *查询,并将查询结果输出到平面文件中(我也尝试了只拉取整个表而不使用SQL select)。 问题在于,如果数据源提取的列是Money数据类型,并且值不为零,则会正确地显示在文本平面文件中(如“1...

11得票8回答
图形化数据流组合框架

我有兴趣将类似于MathWorks Simulink的工具嵌入到我的应用程序中。在这个嵌入式工具中,单元被表示为块,每个块都有其输入和输出端口以及使用我的块定义文件中的参数(该文件以任何工具所需的方式编写)。我想让框架是通用的,并从某个地方读取块定义,然后允许用户根据其定义组成给定块的数据流(...

10得票3回答
在增量构建有向图的同时更高效地计算每个依赖项的传递闭包

我需要回答以下问题:在一个依赖图中,给定一个节点,将其依赖项根据它们自己的传递依赖项分组,这些依赖项会受到特定起始节点的影响。 换句话说,给定依赖图中的一个节点,找到一组直接依赖项的集合,它们具有来自该特定起始节点的共同依赖项。 例如,给定伪代码:let a = 1 let b = 2 l...

10得票2回答
尝试使用DataflowRunner时出现ClassNotFound异常

我正在尝试使用Apache Beam 0.6.0在GCP上启动Dataflow作业。由于无法使用"mvn:execjava"启动作业,因此我正在使用shade插件编译uber jar。我包含了以下依赖项: <dependency> <groupId>org.apa...

9得票3回答
TPL数据流块消耗了所有可用内存。

我有一个TransformManyBlock块,其设计如下: 输入:文件路径 输出:文件内容的IEnumerable,每行一个 我正在处理一个超大文件(61GB),因为它太大无法放入内存,所以我将此块和所有下游块的BoundedCapacity设置为非常低的值(例如1)。然而,该块显然...

9得票4回答
Java的数据流编程API?

我正在寻找适用于Java的Dataflow / Concurrent Programming API。 我知道有DataRush,但它不是免费的。我特别感兴趣的是多核数据处理,而不是分布式处理,这就排除了MapReduce或Hadoop。 有什么想法吗? 谢谢, Rollo

9得票1回答
使用Clojure数据流编程习惯

有人能解释一下为什么以及如何使用Clojure数据流编程API吗?因为我在互联网上找不到太多相关信息。