首页 > 编程语言> > 同时运行的多个Python实例限制为35个

同时运行的多个Python实例限制为35个

2019-05-22 15:45:45 作者：互联网

我在并行计算集群的不同处理器上运行Python 3.6脚本作为多个单独的进程.
最多35个进程同时运行没有问题,但第36行(以及更多)在第二行崩溃并且导入pandas为pd.有趣的是,第一行导入操作系统不会引起问题.
完整的错误消息是：

OpenBLAS blas_thread_init: pthread_create: Resource temporarily unavailable
OpenBLAS blas_thread_init: RLIMIT_NPROC 1024 current, 2067021 max
OpenBLAS blas_thread_init: pthread_create: Resource temporarily unavailable
OpenBLAS blas_thread_init: RLIMIT_NPROC 1024 current, 2067021 max
OpenBLAS blas_thread_init: pthread_create: Resource temporarily unavailable
OpenBLAS blas_thread_init: RLIMIT_NPROC 1024 current, 2067021 max
OpenBLAS blas_thread_init: pthread_create: Resource temporarily unavailable
OpenBLAS blas_thread_init: RLIMIT_NPROC 1024 current, 2067021 max
OpenBLAS blas_thread_init: pthread_create: Resource temporarily unavailable
OpenBLAS blas_thread_init: RLIMIT_NPROC 1024 current, 2067021 max
OpenBLAS blas_thread_init: pthread_create: Resource temporarily unavailable
OpenBLAS blas_thread_init: RLIMIT_NPROC 1024 current, 2067021 max
OpenBLAS blas_thread_init: pthread_create: Resource temporarily unavailable
OpenBLAS blas_thread_init: RLIMIT_NPROC 1024 current, 2067021 max
OpenBLAS blas_thread_init: pthread_create: Resource temporarily unavailable
OpenBLAS blas_thread_init: RLIMIT_NPROC 1024 current, 2067021 max
OpenBLAS blas_thread_init: pthread_create: Resource temporarily unavailable
OpenBLAS blas_thread_init: RLIMIT_NPROC 1024 current, 2067021 max
OpenBLAS blas_thread_init: pthread_create: Resource temporarily unavailable
OpenBLAS blas_thread_init: RLIMIT_NPROC 1024 current, 2067021 max
OpenBLAS blas_thread_init: pthread_create: Resource temporarily unavailable
OpenBLAS blas_thread_init: RLIMIT_NPROC 1024 current, 2067021 max
OpenBLAS blas_thread_init: pthread_create: Resource temporarily unavailable
OpenBLAS blas_thread_init: RLIMIT_NPROC 1024 current, 2067021 max
OpenBLAS blas_thread_init: pthread_create: Resource temporarily unavailable
OpenBLAS blas_thread_init: RLIMIT_NPROC 1024 current, 2067021 max
OpenBLAS blas_thread_init: pthread_create: Resource temporarily unavailable
OpenBLAS blas_thread_init: RLIMIT_NPROC 1024 current, 2067021 max
OpenBLAS blas_thread_init: pthread_create: Resource temporarily unavailable
OpenBLAS blas_thread_init: RLIMIT_NPROC 1024 current, 2067021 max
OpenBLAS blas_thread_init: pthread_create: Resource temporarily unavailable
OpenBLAS blas_thread_init: RLIMIT_NPROC 1024 current, 2067021 max
Traceback (most recent call last):
  File "/home/.../myscript.py", line 32, in <module>
    import pandas as pd
  File "/home/.../python_venv2/lib/python3.6/site-packages/pandas/__init__.py", line 13, in <module>
    __import__(dependency)
  File "/home/.../python_venv2/lib/python3.6/site-packages/numpy/__init__.py", line 142, in <module>
    from . import add_newdocs
  File "/home/.../python_venv2/lib/python3.6/site-packages/numpy/add_newdocs.py", line 13, in <module>
    from numpy.lib import add_newdoc
  File "/home/.../python_venv2/lib/python3.6/site-packages/numpy/lib/__init__.py", line 8, in <module>
    from .type_check import *
  File "/home/.../python_venv2/lib/python3.6/site-packages/numpy/lib/type_check.py", line 11, in <module>
    import numpy.core.numeric as _nx
  File "/home/.../python_venv2/lib/python3.6/site-packages/numpy/core/__init__.py", line 16, in <module>
    from . import multiarray
SystemError: initialization of multiarray raised unreported exception
/var/spool/slurmd/job04590/slurm_script: line 11: 26963 Segmentation fault      python /home/.../myscript.py -x 38

Pandas和一些其他软件包安装在虚拟环境中.我复制了虚拟环境,因此每个venv中运行的进程不超过24个.例如,上面的错误脚本来自在虚拟环境中运行的名为python_venv2的脚本.

无论有多少进程从特定的Pandas实例导入,每次都会在第36个进程上发生此问题. (我甚至没有削弱并行计算集群的能力.)

因此,如果它不是对访问Pandas的进程数量的限制,那么它是否限制了运行Python的进程数量？为什么35是限制？

是否可以在机器上安装多个Python副本(在单独的虚拟环境中？),这样我就可以运行超过35个进程？

解决方法:

分解错误消息

您的错误消息包括以下提示：

OpenBLAS blas_thread_init: pthread_create: Resource temporarily unavailable
OpenBLAS blas_thread_init: RLIMIT_NPROC 1024 current, 2067021 max

RLIMIT_NPROC变量控制用户可以拥有的进程总数.更具体地说,因为它是每个进程设置,当进程调用fork(),clone(),vfork()和& c时,该进程的RLIMIT_NPROC值将与该进程的父进程的总进程数进行比较用户.如果超过这个值,事情会因为你的经历而关闭.

该错误消息表明OpenBLAS无法创建其他线程,因为您的用户已使用RLIMIT_NPROC提供的所有线程.

由于您在群集上运行,因此您的用户不太可能运行多个线程(例如,如果您在个人计算机上并浏览网页,播放音乐等),因此可以合理地得出结论：OpenBLAS正在尝试启动多个线程.

OpenBLAS如何使用线程

OpenBLAS可以使用多个线程来加速线性代数.您可能需要许多线程来快速解决单个更大的问题.您可能需要更少的线程来同时解决许多小问题.

OpenBLAS有several ways来限制它使用的线程数.通过以下方式控制：

export OPENBLAS_NUM_THREADS=4
export GOTO_NUM_THREADS=4
export OMP_NUM_THREADS=4

优先事项是OPENBLAS_NUM_THREADS> GOTO_NUM_THREADS> OMP_NUM_THREADS. (我认为这意味着OPENBLAS_NUM_THREADS会覆盖OMP_NUM_THREADS;但是,当使用USE_OPENMP = 1编译时,OpenBLAS会忽略OPENBLAS_NUM_THREADS和GOTO_NUM_THREADS.)

如果没有设置上述变量,OpenBLAS将使用多个线程运行,这些线程等于机器上的核心数(机器上的32个)

你的情况

您的群集具有32核CPU.您正在尝试运行36个Python实例.对于OpenBLAS,每个实例需要1个线程用于Python 32线程.您还需要一个用于SSH连接的线程和一个用于shell的线程.这意味着你需要36 *(32 1)2 = 1190个线程.

解决问题的核选择是使用：

export OPENBLAS_NUM_THREADS=1

这应该会降低到36 *(1 1)2 = 74个线程.

由于您具有备用容量,因此可以将OPENBLAS_NUM_THREADS调整为更高的值,但随后由单独的Python进程拥有的OpenBLAS实例将相互干扰.因此,在获得一个解决方案的速度与获得多个解决方案的速度之间需要进行权衡.理想情况下,您可以通过每个节点运行更少的Pythons并使用更多节点来解决此问题.

标签：python,linux,parallel-processing,multiprocessing,openblas
来源： https://codeday.me/bug/20190522/1152805.html