numpy/scipy中哪些操作是多线程的？

Question

我正在开发一种算法，除了使用numpy/scipy之外，我没有尝试过并行化。通过观察htop，有时代码会使用所有的核心，有时只使用一个核心。我正在考虑使用multiprocessing或类似的方法来添加单线程部分的并行性。

假设我有所有并行BLAS/MKL库，是否有一些经验法则可以用来猜测numpy/scipy ufunc是否会进行多线程处理？更好的是，是否有一些地方记录了这个信息？

为了尝试弄清楚这一点，我查看了以下内容：https://scipy.github.io/old-wiki/pages/ParallelProgramming，Python: How do you stop numpy from multithreading?，multithreaded blas in python/numpy。

- mostsquares

---

对于未来的读者，joblib维护者有一个很酷的包，用于控制blas / etc中的线程：https://github.com/joblib/threadpoolctl - mostsquares

Answer 1

你可以尝试使用IDP软件包（Intel® Distribution for Python），其中包含了 NumPy*、SciPy* 和 scikit-learn* 的版本，并集成了 Intel® Math Kernel Library。

这将自动为所有 Lapack 例程提供线程处理，无论是否有意义。

在此处你可以找到支持多线程的 mkl 函数列表： https://software.intel.com/en-us/mkl-linux-developer-guide-openmp-threaded-functions-and-problems

- Gennady.F

---

你在回答中为什么在包名旁边加了一个星号？英特尔的文档（以及其他文档）也使用相同的方式，但我从未看到过解释。 - Kalo

Answer 2

< p > 与 numpy 和 scipy 相关的例程默认只允许单线程。如果您愿意，可以更改这一设置。 < /p >

# encoding: utf-8
# module numpy.core.multiarray
# from /path/to/anaconda/lib/python3.6/site-packages/numpy/core/multiarray.cpython-36m-darwin.so
# by generator 1.145
# no doc
# no imports

# Variables with simple values

ALLOW_THREADS = 1

在编译numpy时，您可以通过更改 NPY_ALLOW_THREADS 来控制线程：

./core/include/numpy/ufuncobject.h:#if NPY_ALLOW_THREADS
./core/include/numpy/ndarraytypes.h:        #define NPY_ALLOW_THREADS 1

对于外部库，我主要发现numpy和scipy包装了传统的Fortran代码（QUADPACK、LAPACK、FITPACK等）。这些库中的所有子程序都在单个线程上计算。

至于MKL依赖项，你链接的SO帖子已经足够回答问题。

- newkid

Answer 3

请尝试设置全局变量OMP_NUM_THREADS。这对我的scipy和numpy有效。我使用的函数是， ling.inv() 和 A.dot(B)

- Chenxin