多线程的 pipeline 设计模式
来源:互联网 发布:mac怎么退出客人 编辑:程序博客网 时间:2024/05/16 11:15
一个简单例子:
有很多个html网页,网页的id、title、url、path等信息存在一个数据库表中,网页内容存储在一个磁盘阵列上。现在要把所有网页都读出来,统计其中的html标签、正文等信息,并写入另一个数据库表,怎样的设计最好呢?
一般的想法是使用多个平行的线程,每个线程处理某个ID范围的网页。但是仔细分析就可以发现,对每个网页的处理可以分为以下处理步骤:
- 读取数据库行
- 读取文件内容
- 解析html,生成统计数据
- 将统计结果写入数据库
这几个处理步骤有各自的特征,读取数据库的时间一般主要消耗在数据库服务器响应,读取文件内容一般主要消耗在磁盘IO上,解析、统计消耗在计算上,写统计结果也消耗在数据库服务器响应上。如果我们为这几个过程建立各自的线程,每个任务通过消息队列来传递。就得到如下设计:
在这个设计中,每个处理过程可以根据需要设置不同的线程数,这个例子中,数据库不会是瓶颈,只剩下读文件和计算,如果文件IO够快(如果网页存在不同的阵列上),那么可以增加计算线程(服务器一般都是多CPU的)来达到平衡。
一些例子或许还会有更多的处理步骤。
可以从中得出一个设计模式,见实现代码
- 多线程的 pipeline 设计模式
- 多线程设计模式——Pipeline(流水线)模式
- java多线程设计模式 -- 流水线模式(Pipeline)
- 多线程 Pipeline 的改进
- pipeline(管道)设计模式
- 多线程的PipeLine实现实例
- 多线程的设计模式
- JAVA多线程的设计模式
- 【多线程高并发】多线程的设计模式
- LINUX多线程pipeline架构的创建分析
- pipeline模式
- Pipeline模式
- Tomcat设计模式-责任链模式(二)pipeline valve
- 数字集成电路设计-19-pipeline的写法
- 多线程下的单例设计模式
- 多线程的单例设计模式
- Java 多线程的设计模式之 Future
- JavaSE 多线程 单例设计模式涉及的多线程问题
- TIPTOPGP 公用程序(一)
- Symbian 3rd版本 制作自启动程序
- 如何使应用程序只运行一个实例
- CLASSPATH的详解 (转)
- 准备看朋友小孩子去
- 多线程的 pipeline 设计模式
- windows进程间通讯的各种方法
- 家乐福网站被黑存照
- 必须掌握的八个DOS命令
- Java中static、this、super、final用法
- 过滤ASP.NET输出HTML中的无用空格
- epoll-select的代替品
- apache启动失败 Name or service not known: mod_unique_id
- TIPTOPGP 公用程序(二)