8得票3回答
如何在Java代码中监控/检查数据/属性流动

我有一个使用案例,需要捕获从一个API到另一个API的数据流。例如,我的代码使用Hibernate从数据库读取数据,在数据处理期间我将一个POJO转换为另一个,并执行一些更多的处理,最后将其转换为最终结果Hibernate对象。简而言之,是像POJO1到POJO2到POJO3这样的东西。 在...

7得票2回答
当消费者不堪重负时,如何让快速生产者暂停?

我在我的应用程序中使用TPL Dataflow实现了生产者/消费者模式。我有一个大的数据流网格,其中约有40个块。该网格有两个主要的功能部分:生产者部分和消费者部分。当消费者处理一些指定数量的工作项时,生产者应继续为消费者提供大量的工作。否则,应用程序会消耗大量内存/CPU并且行为不可持续。我...

17得票3回答
数据流分析与抽象解释的区别是什么?

数据流分析和抽象解释有什么区别?它们是否用于相同的目的?相对于彼此,这两者的优缺点是什么。

9得票1回答
Dataflow / Apache Beam 在哪个阶段确认 pub/sub 消息?

我有一个使用Pub/Sub订阅作为无界源的数据流处理工作。我想知道在哪个阶段数据流处理会确认收到Pub/Sub消息。如果在数据流处理管道的任何阶段抛出异常,似乎消息就会丢失。 此外,我想知道如何编写最佳实践的数据流处理管道,以便在失败时从Pub/Sub无界源中检索消息。谢谢!

7得票3回答
如何在Python 3.x上获取用于GCP数据流的Apache Beam

我对GCP和dataflow非常陌生。然而,我想开始测试和部署一些利用GCP上的dataflow的流程。根据文档和所有与dataflow相关的内容,必须使用Apache项目BEAM。因此,按照官方文档这里,支持的Python版本是2.7。 老实说,这令人非常失望,因为Python 2.x版本...

19得票10回答
这种语言特性已经存在了吗?

我目前正在开发一种用于连续环境(类比于电气工程)编程的新语言,并且我对某些语言构建有一些想法。 让我通过解释和定义来说明这个特性: x = a U b; 这里的x是一个变量,a和b是其他变量(或静态值)。这就像a和b之间的并集一样;没有重复项,也没有特定的顺序。 with(x) { ...

19得票4回答
数据流设置控制器服务账户

我尝试为Dataflow设置控制器服务账户。在我的dataflow选项中,我有:options.setGcpCredential(GoogleCredentials.fromStream( new FileInputStream("k...

32得票1回答
数据流编程和响应式编程有何区别?

我真的看不出它们之间有什么区别。它们都涉及到指令中数据流动和输入数据更改的传播。 我阅读了Matt Carcki撰写的此书,它清楚地表明它们是一样的。另一方面,维基百科将响应式编程确立为数据流编程的一种形式,这个StackOverflow答案也是如此。 那么,响应式编程和数据流编程之间的概念差...

16得票11回答
数据流编程 - 模式和框架

我刚接触到提议中的Boost::Dataflow库。这似乎是一种有趣的方法,我想知道是否还有其他类似的C++框架,以及是否有任何相关的设计模式。 我并没有排除Boost::Dataflow,只是正在寻找任何可用的替代方案,以便更好地了解领域和我的选项(或者如有必要,开发自己的)。

8得票2回答
限制Beam应用程序中的一步骤

我正在使用Google Dataflow的Python Beam,我的管道如下所示: 从文件中读取图像URL >> 下载图像 >> 处理图像 问题在于我不能让“下载图像”步骤根据需要进行扩展,因为我的应用程序可能会被图像服务器阻塞。 是否有一种方法可以限制该步...