多个进程可以共享一个CUDA上下文吗?

3
这个问题是关于Jason R对Robert Crovella在“一个设备多个CUDA上下文-有任何意义吗?”this original question回答中的评论的后续问题:
当你说多个上下文不能同时运行时,它是仅指内核启动,还是也包括内存传输?我一直在考虑在同一个GPU上使用IPC API设计多进程,以便从一个进程向另一个进程传输缓冲区。这是否意味着实际上只有一个进程可以同时独占整个GPU(而不仅仅是特定的SM)?… … 这如何与每个进程中异步排队的内核/复制流进行调度相互作用?
Robert Crovella建议提出一个新问题,但这从未发生过,所以让我在这里提出这个问题。
1个回答

3

多进程服务是Nvidia提供的一种替代CUDA实现,使多个进程使用同一个上下文。例如,如果每个进程本身无法充分利用整个GPU,则可以允许来自多个进程的内核并行运行。


网页内容由stack overflow 提供, 点击上面的
可以查看英文原文,
原文链接