14得票1回答
gRPC Python线程池 vs 最大并发RPC数

启动Python的grpc.server时,maximum_concurrent_rpcs和线程池中使用的max_workers有什么区别?如果我想要maximum_concurrent_rpcs=1,是否仍然需要提供多个线程给线程池? 换句话说,我应该将maximum_concurrent...

14得票1回答
Celery与ProcessPoolExecutor/ThreadPoolExecutor的比较

我正在创建一个Django Web服务器,允许用户在本地机器上运行一些“可执行文件”,并通过Web页面分析它们的输出。 我之前在类似情况下使用过Celery任务队列来运行“可执行文件”。但是,阅读了Python concurrent.futures后,我开始思考是否应该改用ThreadPoo...

14得票1回答
并发.futures的个别超时时间

我看到在 concurrent.futures 中有两种指定超时的方法: as_completed() wait() 这两种方法都可以处理N个正在运行中的future。 我想为每个future指定单独的超时时间。 用例: 从DB获取数据的Future的超时时间为0.5秒。 从H...

14得票2回答
如何监控Python的concurrent.futures.ProcessPoolExecutor?

我们正在使用concurrent.futures中的ProcessPoolExecutor在一个异步接收请求的服务中,实际的同步处理是在进程池中进行的。 一旦我们遇到进程池耗尽的情况,新的请求就必须等待直到其他一些进程完成。 是否有一种方法可以查询进程池的当前使用情况?这将允许我们监视它们...

14得票1回答
concurrent.futures是GIL的解药吗?

我刚刚在搜索这个新实现时发现,我使用的是Python 2.7,我必须安装这个,那么如果我使用它,我会忘记在CPython中的GIL吗?

14得票1回答
正确使用loop.create_future

我正在阅读Python文档和PyMotW书籍,试图学习Async/Await、Futures和Tasks。 协程和任务文档: 通常在应用程序级别的代码中没有必要创建Future对象。 从future文档中可以得知: loop.create_future() 创建一个附加到事件循环...

13得票1回答
ProcessPoolExecutor在Windows上无法记录函数内部的日志,但在Unix / Mac上可以

当我在Windows电脑上运行以下脚本时,我看不到来自log_pid函数的任何日志消息,但在Unix / Mac上运行时会看到。我之前曾读过,与Mac相比,在Windows上的多进程处理有所不同,但我不清楚应该做出什么更改才能使此脚本在Windows上正常工作。我正在运行Python 3.6。...

13得票1回答
使用ProcessPoolExecutor类时,无法对协程对象进行pickle。

我正在尝试将asyncio与子进程和限制一起使用。我已经以函数式方式完成了这个任务,但是当我尝试在opp风格中实现相同的逻辑时,出现了几个问题。主要是无法pickle协程/生成器错误。我已经追踪了其中的一些问题,但并非全部。 import asyncio from concurrent.fu...

13得票1回答
将 Flask 请求/应用上下文复制到另一个进程

简短版 我该如何序列化 Flask 应用程序或请求上下文,或者是该上下文的子集(即任何可以成功序列化的内容),以便我可以从另一个进程而不是线程中访问该上下文? 详细版 我有一些需要访问 Flask 请求上下文或应用上下文的函数,我想在后台运行这些函数。 Flask 内置了 @copy_...

13得票2回答
在尝试使用Python 3.6进行并行处理时,出现了“AttributeError:模块'concurrent'没有属性'futures'”的错误。

我正在尝试使用concurrent.futures模块将需要很长时间的进程拆分为多个进程。以下是代码。 主要函数:with concurrent.futures.ProcessPoolExecutor() as executor: for idx, score in zip([idx for ...