9得票2回答
使用多个GPU的OpenCL/OpenGL交互操作

我在使用OpenCL/OpenGL互操作时遇到了多GPU的问题。我正在尝试编写一个应用程序,以呈现密集计算的结果。最终它将运行一个优化问题,并根据结果将某些内容渲染到屏幕上。作为一个测试案例,我从这个课程中开始使用粒子模拟示例代码:http://web.engr.oregonstate.edu...

8得票1回答
如何解决dist.init_process_group卡住(或死锁)的问题?

我需要在DGX A100上设置DDP(分布式数据并行),但它不起作用。每当我尝试运行它时,它就会卡住。我的代码非常简单,只是为了调试而生成了4个进程来支持4个GPU(出于调试目的,我立即销毁了组,但甚至没有达到那里)。 def find_free_port(): """ https:...

24得票1回答
多GPU的基本用法

我如何使用两个设备以改善以下代码(向量求和)的性能?是否可能同时使用更多设备?如果是,如何管理不同设备上全局内存中向量的分配?#include <stdio.h> #include <stdlib.h> #include <math.h> #include ...

7得票3回答
无法使用Keras中的multi_gpu_model保存模型,请问如何解决?

升级到Keras 2.0.9后,我一直在使用multi_gpu_model实用工具,但我无法保存我的模型或最佳权重。 model.save('path') 我收到的错误是: 类型错误:无法对模块对象进行pickle处理 我猜测可能存在访问模型对象的问题。是否有解决此问题的方法?

10得票2回答
Tensorflow Java多GPU推理

我有一台配备了多个GPU的服务器,希望在Java应用程序内进行模型推断时充分利用它们。 默认情况下,TensorFlow会占用所有可用的GPU,但只使用第一个GPU。 我能想到三个选项来解决这个问题: 在进程级别上限制设备可见性,即使用CUDA_VISIBLE_DEVICES环境变量。 ...

22得票3回答
如何在Vulkan中实现多GPU编程?

在Vulkan中使用多个GPU,是否类似于创建多个命令队列,然后在它们之间分配命令缓冲区? 存在两个问题: 在OpenGL中,我们使用GLEW获取函数。在有多个GPU的情况下,每个GPU都有自己的驱动程序。我们该如何在Vulkan中处理? 部分帧是否由一个GPU生成,并且其他GPU(例如...

165得票5回答
使用Java与Nvidia GPU(CUDA)

我正在开发一个用 Java 完成的商业项目,需要大量计算能力来计算商业市场。虽然数学很简单,但数据量很大。 我们订购了一些 CUDA GPU 来尝试使用,但由于 CUDA 不支持 Java,我不知道该从哪里开始。我应该构建 JNI 接口吗?还是应该使用 JCUDA,或者有其他方法? 在这个...

10得票5回答
Pytorch Lightning在分布式数据并行模式下会复制主脚本。

当我在ddp模式(2个GPU)下启动我的主要脚本时,Pytorch Lightning会复制在主要脚本中执行的所有内容,例如打印或其他逻辑。我需要一些扩展训练逻辑,我希望自己处理。例如,在Trainer.fit()之后执行某些操作(仅一次!)。但是由于主要脚本的复制,这并不按照我想象的方式工作...

9得票1回答
管理多个GPU与多个用户

我有一台服务器(Ubuntu 16.04),带有4个GPU。我的团队共用这台服务器,我们目前的做法是使用Docker将所有工作容器化,并使用类似于 $ NV_GPU=0 nvidia-docker run -ti nvidia/cuda nvidia-smi 的方法限制容器对GPU的访问。当我...

8得票1回答
CUDA SDK示例在多GPU系统中抛出各种错误

我有一台运行Ubuntu Precise的Dell Precision Rack,配备了两个Tesla C2075和一个Quadro 600作为显示设备。最近我在我的台式电脑上完成了一些测试,现在尝试将结果移植到工作站上。 由于没有安装CUDA,我按照这个指南进行了安装,并根据这些建议调整了...