树莓派4能否实现深度学习的GPU加速？

Question

5

在官方Tensorflow Lite网站上，他们展示了对Android和iOS GPU加速的支持，但没有提到对Raspberry Pi的支持。

- Alessandro Marcantoni

1个回答

网页内容由stack overflow 提供, 点击上面的

可以查看英文原文，
原文链接

- lnstadrum · Accepted Answer

如果您希望在主流框架（如TensorFlow或PyTorch）中使用树莓派进行神经网络训练，很可能在短期内无法获得GPU加速。原因是这两个框架大多数情况下都是面向GPU的，主要支持NVidia，AMD的支持正在逐步增加（TF在此处，Torch在此处）。

可以说，对于Pi来说，最有前途的选择是OpenCL支持，但截至撰写本文为止，据我所知，尚未为Raspberry Pi 4实现OpenCL。

通过TensorFlow.js，您或许可以获得一些树莓派GPU方面的东西，只要它能够通过WebGL着色器使用GPU。因此，在Pi上运行具有WebGL支持的Web浏览器可能会启用GPU加速训练。

如果您希望使用Raspberry Pi进行推理，可能更容易受益于GPU加速。

ncnn是一种使用Vulkan API的库，可以为Raspberry Pi 4实现GPU加速。
Beatmup库可以在所有Raspberry Pi型号上实现GPU加速推理，不仅仅限于4。它还提供了一些从Keras模型进行转换的工具，但在实现特性方面受到了一定的限制。