在应用程序运行期间如何检查CUDA MPS服务器是否打开或关闭？

Question

我的问题是，是否可能在应用程序运行时查询MPS服务器并检查其是否在GPU上运行？

据我所知，使用nvidia-smi可以检查CUDA MPS服务器是否在GPU上运行，但我不确定如何在应用程序运行期间使用此系统命令。在应用程序运行时，是否有其他方法可以检查MPS服务器是否在GPU上运行？

- Iman

Answer 1

我找到了一种方法，但如果你认为还有更好的方法，请分享出来。无论如何，这种方法对我有效。

基本上，当MPS控制守护进程启动时，在/tmp/nvidia-mps/目录下会创建一个名为control的文件，当守护进程退出时，该文件将不存在。

我使用access函数来检查/tmp/nvidia-mps/control文件是否存在。

下面是代码：

#include <unistd.h>
#include <stdio.h>


int main()
{
    int result;
    const char *filename = "/tmp/nvidia-mps/control"; // only available if nvidia-cuda-mps-control daemon is running
    result = access (filename, F_OK); // F_OK tests existence also (R_OK,W_OK,X_OK).
                                      //            for readable, writeable, executable
    if (result == 0)
    {
       printf("%s MPS demon is running!!\n",filename);
    }
    else
    {
       printf("%s MPS demon doesn't exist!\n",filename);
    }
    return 0;
}

以下是结果：

# gcc mps-checker.c -o mps-status
# nvidia-cuda-mps-control -d
# ./mps-status
/tmp/nvidia-mps/control MPS demon is running!!
# echo quit | nvidia-cuda-mps-control
# ./mps-status
/tmp/nvidia-mps/control MPS demon doesn't exist!

- Iman

---

为了更加健壮，您可以检查环境变量CUDA_MPS_PIPE_DIRECTORY是否已定义，在这种情况下寻找$CUDA_MPS_PIPE_DIRECTORY/control。 - fwyzard