python线程池处理文件和Queue
来源:互联网 发布:服务器数据安全 编辑:程序博客网 时间:2024/05/25 21:35
#_*_encoding:utf-8_*_import threadingimport Queuefrom DisposeXml import *class ThreadPoolMgr(): def __init__(self,work_queue,thread_num=2): self.threads=[] self.work_queue=work_queue self.init_threadpool(thread_num) def init_threadpool(self,thread_num): for i in range(thread_num): self.threads.append(Mythread(self.work_queue)); def wait_allcomplete(self): for item in self.threads: if item.isAlive(): item.join() class Mythread(threading.Thread): def __init__(self,work_queue): threading.Thread.__init__(self) self.work_queue=work_queue self.start() def run(self): # 从任务队列中取任务,一直等到任务队列为空 while not self.work_queue.empty(): dir = self.work_queue.get() os.chdir(dir) self.disposeMetaXml=DisposeTableMetaXml(TableMetadataFileName) self.disposeMetaXml.Analysis_Metadata() if -1==self.disposeMetaXml.connect2Db(): QMessageBox.about(self,u"失败",u"数据库连接失败") self.disposeMetaXml.QueryMysql() self.disposeMetaXml.remove_tmp_file() print self.getName(),' work queue is empty' if __name__=='__main__': p=ThreadPoolMgr() p.wait_allcomplete()
python的Queue模块: import Queue
默认构造的queue大小为0,当然也可以指定大小 myqueue = Queue.Queue(maxsize = 10)
入队 myqueue.put(T) 队列中可以放任何格式对象或者组合。
调用队列对象的put()方法在队尾插入一个项目。put()有两个参数,第一个item为必需的,为插入项目的值;第二个block为可选参数,默认为1。如果队列当前为空且block为1,put()方法就使调用线程暂停,直到空出一个数据单元。如果block为0,put方法将引发Full异常。
出对 myqueue.get()
调用队列对象的get()方法从队头删除并返回一个项目。可选参数为block,默认为True。如果队列为空且block为True,get()就使调用线程暂停,直至有项目可用。如果队列为空且block为False,队列将引发Empty异常。
python queue模块有三种队列:
1、python queue模块的FIFO队列先进先出。
2、LIFO类似于堆。即先进后出。
3、还有一种是优先级队列级别越低越先出来。
针对这三种队列分别有三个构造函数:
1、class Queue.Queue(maxsize) FIFO
2、class Queue.LifoQueue(maxsize) LIFO
3、class Queue.PriorityQueue(maxsize) 优先级队列
介绍一下此包中的常用方法:
Queue.qsize() 返回队列的大小
Queue.empty() 如果队列为空,返回True,反之False
Queue.full() 如果队列满了,返回True,反之False
Queue.full 与 maxsize 大小对应
Queue.get([block[, timeout]]) 获取队列,timeout等待时间
Queue.get_nowait() 相当Queue.get(False)
非阻塞 Queue.put(item) 写入队列,timeout等待时间
Queue.put_nowait(item) 相当Queue.put(item, False)
Queue.task_done() 在完成一项工作之后,Queue.task_done() 函数向任务已经完成的队列发送一个信号
Queue.join() 实际上意味着等到队列为空,再执行别的操作
明天详细介绍些python的线程。
- python线程池处理文件和Queue
- python线程池处理文件和Queue
- Python中的线程使用 和 queue
- python线程间通信方法小结:event、condition 和 queue
- python 文件和文件夹处理
- python处理文件和目录
- [python]文件和文件夹处理
- Python 文件 和 异常处理
- gevent.queue和Python内置的Queue()
- Python文件处理和Numpy数组处理
- python线程优先级队列( Queue)
- python两个子线程通过queue通信
- Python开发-Python文件处理-Python文件输入和输出
- Python中的多线程threading和线程间消息队列queue学习笔记
- python多线程(3)---生产者与消费者(线程通信)和Queue模块
- python实现stack 和 queue
- python实现Stack和Queue
- 利用QUEUE设计线程池
- 【Android Training - Connectivity】优化下载的效率[Lesson 4 - 根据网络类型更改下载模式]
- 集合相关
- static、extern分析总结
- 【Android进阶】天天动听 悬浮歌词(迷你歌词)效果解读
- 【郭林专刊】jQuery中ajax的使用和缓存问题解决
- python线程池处理文件和Queue
- 改变文件系统的读写属性
- 起源、纲领及其他
- linux-unixODBC-mysql-c++_2012-0326
- sicily1298 数制转换
- 将c#类编译成dll文件
- 比较好用的获得文件大小的方法
- 查询域名注册商的方法
- 家浩面试记