NodeJs: 使用cluster创建nodejs单机多核集群(多进程)

来源:互联网 发布:linux 内核书籍 编辑:程序博客网 时间:2024/05/16 10:19

前言:

nodejs提供了cluster集群(支持端口共享的多进程),cluster基于child_process,process二次封装,方便我们使用该功能实现单机nodejs的web集群。

1、cluster的处理机制

都知道单线程的nodejs遇到cpu密集型操作会很容易出现CPU满载,服务阻塞的问题;通过类似nginx的master-worker多进程负载处理方式进一步压榨硬件性能,提升nodejs单机服务处理性能。

     m a s t e r(主进程,分发请求)

        |           |            |            |

   worker  worker  worker  worker(子进程,处理请求)

2、官方cluster实现

nodejs官方文档中cluster的实现demo:

const cluster = require('cluster');const http = require('http');const numCPUs = require('os').cpus().length;if (cluster.isMaster) {  for (var i = 0; i < numCPUs; i++) {    cluster.fork();  }  cluster.on('exit', (worker, code, signal) => {    console.log(`worker ${worker.process.pid} died`);  });} else {  http.createServer((req, res) => {    res.writeHead(200);    res.end('hello world\n');  }).listen(8000);}

3、实现自己的单机nodejs集群,实现多进程端口共享

3.1、代码实现

[javascript] view plain copy
 print?
  1. //开启集群服务  
  2. var startClusterSever = function(port, numCPUs) {  
  3.     if (cluster.isMaster) {  
  4.         for (var i = 0; i < numCPUs; i++) {  
  5.             const work = cluster.fork();  
  6.             console.log(work.process.pid);  
  7.             workers[i] = work;  
  8.         }  
  9.         cluster.on('exit', (worker, code, signal) => {  
  10.             console.log(`worker ${worker.process.pid} died`);  
  11.         });  
  12.     } else {  
  13.         console.log(cluster.worker.id);  
  14.         http.createServer((req, res) => {  
  15.             console.log("子进程:" + cluster.worker.id + "正在处理请求...");  
  16.             routeHandler(req, res);  
  17.         }).listen(port);  
  18.   
  19.     }  
  20. }  

3.2、基于eguidRoute路由实现

注:在上一章的eguidRoute基础上增加开启单机集群功能

使用:

eguid.start(8081, 8);//监听8081端口,多线程数量8

[javascript] view plain copy
 print?
  1. const http = require('http');  
  2. const url = require('url');  
  3. const path = require('path');  
  4. const fs = require('fs');  
  5. const cluster = require('cluster');  
  6. //路由表  
  7. var routeArr = {};  
  8. //进程列表  
  9. var workers = {};  
  10. //进程数量  
  11. var clusterNum;  
  12. //解析请求地址  
  13. var getPathName = function(reqUrl) {  
  14.     var urlParse = getUrlParse(reqUrl);  
  15.     return urlParse.pathname;  
  16. };  
  17. //获取url解析  
  18. var getUrlParse = function(reqUrl) {  
  19.     return url.parse(reqUrl);  
  20. };  
  21. //是否是一个请求  
  22. var isFunc = function(pathName) {  
  23.     return typeof routeArr[pathName] === 'function';  
  24. };  
  25. /**静态资源处理 param(req:请求,res:响应,pathName:路径) */  
  26. var resStatic = function(req, res, pathName) {  
  27.     fs.readFile(pathName.substr(1), function(err, data) {  
  28.         err ? endErrorReq(res, 501) : endStaticReq(res, pathName, data);  
  29.         res.end();  
  30.     });  
  31. };  
  32. //响应静态资源  
  33. var endStaticReq = function(res, pathName, data) {  
  34.     var suffix = path.extname(pathName);  
  35.     res.writeHead(200, { 'Content-Type': suffix === ".css" ? 'text/css' : 'text/html;' + 'charset=utf-8' });  
  36.     res.write(data);  
  37. };  
  38. //结束错误请求  
  39. var endErrorReq = function(res, err) {  
  40.     res.writeHead(err);  
  41.     res.end();  
  42. };  
  43. /** 路由分发处理器 */  
  44. var routeHandler = function(req, res) {  
  45.     var pathName = getPathName(req.url);  
  46.     isFunc(pathName) ? routeArr[pathName](req, res, pathName) : resStatic(req, res, pathName);  
  47.     console.log("处理了一个请求:" + pathName);  
  48. };  
  49. /** 添加动态路由解析   
  50.  * param{ 
  51.  * reqUrl:请求地址,  
  52.  * service:function(request:请求,response:响应,pathName:请求名)} 
  53.  */  
  54. var addDynamicRoute = function(reqUrl, service) {  
  55.     console.log("添加的服务名:" + reqUrl);  
  56.     routeArr[reqUrl] = service;  
  57. };  
  58. /**  开启服务器并监听端口  param{port:端口号}*/  
  59. var startServer = function(port, num) {  
  60.     clusterNum = num;  
  61.     if (num) {  
  62.         startClusterSever(port, num);  
  63.     } else {  
  64.         //创建服务器    
  65.         http.createServer(function(req, res) {  
  66.             routeHandler(req, res);  
  67.         }).listen(port); //注意这里的端口改成了变量  
  68.         //开启后在控制台显示该服务正在运行    
  69.         console.log('Server running at http://127.0.0.1:' + port);  
  70.     }  
  71. };  
  72. /** 设置静态页面请求别名 param(newUrl:新的请求路径, oldUrl:原始路径) */  
  73. var setIndex = function(newUrl, oldUrl) {  
  74.     addDynamicRoute(newUrl, function(req, res) {  
  75.         resStatic(req, res, oldUrl);  
  76.     });  
  77. };  
  78. /**自定义静态页面处理方式 staticHandlerService=function(req,res,pathName)*/  
  79. var setresStaticFunc = function(staticHandlerService) {  
  80.     resStatic = staticHandlerService;  
  81. };  
  82.   
  83. //开启集群服务  
  84. var startClusterSever = function(port, numCPUs) {  
  85.     if (cluster.isMaster) {  
  86.         for (var i = 0; i < numCPUs; i++) {  
  87.             const work = cluster.fork();  
  88.             console.log(work.process.pid);  
  89.             workers[i] = work;  
  90.         }  
  91.         cluster.on('exit', (worker, code, signal) => {  
  92.             console.log(`worker ${worker.process.pid} died`);  
  93.         });  
  94.     } else {  
  95.         console.log(cluster.worker.id);  
  96.         http.createServer((req, res) => {  
  97.             console.log("子进程:" + cluster.worker.id + "正在处理请求...");  
  98.             routeHandler(req, res);  
  99.         }).listen(port);  
  100.   
  101.     }  
  102. }  
  103. exports.route = routeHandler;  
  104. exports.add = addDynamicRoute;  
  105. exports.start = startServer;  
  106. exports.index = setIndex;  
  107. exports.modStatic = setresStaticFunc;  
  108. /** 
  109.  * eguidRouter快速灵活的路由 
  110.  * 功能实现: 
  111.  * 1、自动静态路由解析 
  112.  * 2、支持手动设置静态路由别名 
  113.  * 3、支持创建新的静态路由实现(方便加载模板) 
  114.  * 4、动态路由解析 
  115.  * 5、自动错误响应 
  116.  * 6、使用原生API,无第三方框架 
  117.  * 7、支持cluster单机集群(机器性能压榨机) 
  118.  */