python线程池处理文件和Queue

来源:互联网 发布:服务器数据安全 编辑:程序博客网 时间:2024/05/25 21:35
#_*_encoding:utf-8_*_import threadingimport Queuefrom DisposeXml import *class ThreadPoolMgr():    def __init__(self,work_queue,thread_num=2):        self.threads=[]        self.work_queue=work_queue        self.init_threadpool(thread_num)        def init_threadpool(self,thread_num):        for i in range(thread_num):            self.threads.append(Mythread(self.work_queue));        def wait_allcomplete(self):        for item in self.threads:            if item.isAlive():                item.join()        class Mythread(threading.Thread):    def __init__(self,work_queue):        threading.Thread.__init__(self)        self.work_queue=work_queue        self.start()        def run(self):        # 从任务队列中取任务,一直等到任务队列为空        while not self.work_queue.empty():            dir = self.work_queue.get()            os.chdir(dir)            self.disposeMetaXml=DisposeTableMetaXml(TableMetadataFileName)            self.disposeMetaXml.Analysis_Metadata()            if -1==self.disposeMetaXml.connect2Db():                QMessageBox.about(self,u"失败",u"数据库连接失败")            self.disposeMetaXml.QueryMysql()            self.disposeMetaXml.remove_tmp_file()        print self.getName(),' work queue is empty'                if __name__=='__main__':    p=ThreadPoolMgr()    p.wait_allcomplete()        


python的Queue模块:  import Queue

默认构造的queue大小为0,当然也可以指定大小  myqueue = Queue.Queue(maxsize = 10)

入队  myqueue.put(T)  队列中可以放任何格式对象或者组合。 

调用队列对象的put()方法在队尾插入一个项目。put()有两个参数,第一个item为必需的,为插入项目的值;第二个block为可选参数,默认为1。如果队列当前为空且block为1,put()方法就使调用线程暂停,直到空出一个数据单元。如果block为0,put方法将引发Full异常。

出对 myqueue.get()

调用队列对象的get()方法从队头删除并返回一个项目。可选参数为block,默认为True。如果队列为空且block为True,get()就使调用线程暂停,直至有项目可用。如果队列为空且block为False,队列将引发Empty异常。

python queue模块有三种队列:
1、python queue模块的FIFO队列先进先出。
2、LIFO类似于堆。即先进后出。
3、还有一种是优先级队列级别越低越先出来。 


针对这三种队列分别有三个构造函数:
1、class Queue.Queue(maxsize) FIFO 
2、class Queue.LifoQueue(maxsize) LIFO 
3、class Queue.PriorityQueue(maxsize) 优先级队列 


介绍一下此包中的常用方法:


Queue.qsize() 返回队列的大小 
Queue.empty() 如果队列为空,返回True,反之False 
Queue.full() 如果队列满了,返回True,反之False
Queue.full 与 maxsize 大小对应 
Queue.get([block[, timeout]]) 获取队列,timeout等待时间 
Queue.get_nowait() 相当Queue.get(False)
非阻塞 Queue.put(item) 写入队列,timeout等待时间 
Queue.put_nowait(item) 相当Queue.put(item, False)
Queue.task_done() 在完成一项工作之后,Queue.task_done() 函数向任务已经完成的队列发送一个信号

Queue.join() 实际上意味着等到队列为空,再执行别的操作


明天详细介绍些python的线程。

原创粉丝点击