Python GPU 资源利用率

Question

4

我有一个运行深度学习模型推断的Python脚本。

有没有办法找出GPU资源利用率水平？例如，着色器、float16乘法器等的利用率。

我似乎在网上找不到关于这些GPU资源的太多文档。

谢谢！

- cmed123

2个回答

0

是的，您可以使用pynvml来实现这一点，如果您正在使用jupyterlab，则可以使用nvdashboard。最近的一篇medium文章详细介绍了这些库的用法：https://medium.com/rapids-ai/gpu-dashboards-in-jupyter-lab-757b17aae1d5

- quasiben

网页内容由stack overflow 提供, 点击上面的

可以查看英文原文，
原文链接

- KimKulling · Accepted Answer

您可以尝试在GPU分析器（如Renderdoc）中运行您的Python应用程序。它将分析您的运行情况，您将能够获得有关所使用资源、使用的缓冲区、不同渲染状态下的输出等信息。

只需访问Renderdoc-website了解更多信息。