Python多进程应用的subprocess模块、multiprocessing模块
来源:互联网 发布:素数用C语言怎么表示 编辑:程序博客网 时间:2024/06/05 16:12
我很懒的
refer:
1. http://www.cnblogs.com/sunailong/p/5162748.html (subprocess模块)
2. http://blog.csdn.net/u013713010/article/details/53325438 (multiprocessing模块)
3. https://www.liaoxuefeng.com/wiki/0014316089557264a6b348958f449949df42a6d3a2e542c000/001431927781401bb47ccf187b24c3b955157bb12c5882d000
一、multiprocessing.Queue和multiprocessing.Manager
在使用多进程通信的时候,先尝试了multiprocessing.Queue发现队列能存放的数据量较少,有一个默认值具体多少暂不清楚。Queue.put(xxx)不会因为你的数据太大而报错,只会在该语句所在进程结束时,multiprocessing.Process.join()会一直阻塞。父进程无法继续执行。
换用multiprocessing.Manager类创建的列表或者字典:
mgr=multiprocessing.Manager()
buffConmunicate=mgr.list() # mgr.dict()
这时,buffConmunicate里面存放大数据量没出错了(我放的np.array(shape=(102400,128,8))ok了)
二、进程锁multiprocessing.Lock
多进程可能操作同一个文件时,加上进程锁:lock=multiprocessing.Lock(),在需要协调的地方,加上
lock.acquire()try:xxxxfinally:lock.release()
或者简单的:
with lock:xxx
- Python多进程应用的subprocess模块、multiprocessing模块
- python 多进程模块 multiprocessing
- 多进程模块multiprocessing
- 关于python中的多进程模块multiprocessing
- Python的multiprocessing模块多进程用法和管理
- Python的subprocess模块
- python 的 subprocess模块
- Python子进程 subprocess模块
- python子进程模块:subprocess
- Python模块整理:子进程模块subprocess
- python子进程模块subprocess详解与应用实例 之一
- python子进程模块subprocess详解与应用实例 之一
- python子进程模块subprocess详解与应用实例 一
- python子进程模块subprocess详解与应用实例 之一
- python子进程模块subprocess详解与应用实例 之一
- python的subprocess模块使用
- python的subprocess模块使用方法
- Python模块学习 ---- subprocess 创建子进程
- Tensorflow深度学习之十七:队列与多线程
- bzoj1334 [Baltic2008]Elect(贪心+背包dp)
- <c: if test="">判断无效
- 从《这么慢那么美》所学
- ROS文件系统+catkin工作空间及程序包
- Python多进程应用的subprocess模块、multiprocessing模块
- java存储过程实际使用-MYSQL-LINUX
- JAVA随机数之多种方法从给定范围内随机N个不重复数
- 虚拟机中为linux系统设置静态ip
- Linux文本处理:从不规则列/非固定列中截取关键字
- php-app开发接口加密
- [LintCode]375.克隆二叉树
- 关于数据库的事务
- 静态测试