在C中使用预训练的PyTorch模型？

Question

我有一个预训练的PyTorch模型，为了保险起见，我保存了模型和参数。但是我需要在C或C ++代码中使用此模型，请问有谁知道我该怎么做吗？

非常感谢。

- Rael

---

请查看 torch.onnx 将其转换为具有 C++ API 的 Caffe2。 - iacolippo

@Rael，请告诉我你做了什么，因为我想做和你一样的事情。 - DINA TAKLIT

Answer 1

尝试使用包括一个C++库的PyTorch 1.0。该模型可以被导出为torch脚本格式并在C++中加载，点击这里查看 https://pytorch.org/tutorials/advanced/cpp_export.html。

- Yanlin Qiu

---

但根据我所看到的，这个选项并没有得到很好的覆盖，我的意思是除了你在这里分享的这个模型之外，没有教程展示如何做到这一点。 - DINA TAKLIT

Answer 2

如果您正在使用Ubuntu，请尝试在ppa:nnstreamer/ppa的PPA中安装pytorch软件包。

在这个Ubuntu pytorch软件包中，有头文件和pkgconfig (.pc)文件，可以帮助构建使用pytorch的C/C++程序。

如果您想要更简单的方法来调用C/C++程序中的pytorch/caffe2模型，您可以使用nnstreamer的C/API或者使用GStreamer API来接近nnstreamer。

要安装nnstreamer或C友好的pytorch（或tensorflow），请使用PPA：

$ sudo add-apt-repository ppa:nnstreamer/ppa
$ sudo apt-get update
$ suto apt-get install ${whateveryouwant}

针对 ${whateveryouwant} 的候选人：nnstreamer、nnstreamer-dev、nnstreamer-pytorch

如果您想直接从C代码访问pytorch而不使用nnstreamer，您可以参考nnstreamer的pytorch-wrapper，链接为：https://github.com/nnsuite/nnstreamer/blob/master/ext/nnstreamer/tensor_filter/tensor_filter_pytorch_core.cc

- MZX