服务器双缓冲消息队列方案
来源:互联网 发布:js实现div隐藏与显示 编辑:程序博客网 时间:2024/05/16 14:39
双缓冲消息队列-减少锁竞争 收藏
双缓冲消息队列-减少锁竞争
在网络应用服务器端, 为了性能和防止阻塞, 经常会把逻辑处理和I/O处理分离:
I/O网络线程处理I/O事件: 数据包的接收和发送, 连接的建立和维护等.
逻辑线程要对收到的数据包进行逻辑处理.
通常网络线程和逻辑线程之间是通过数据包队列来交换信息, 简单来说就是一个生产者-消费者模式.
这个队列是多个线程在共享访问必须加锁, 意味着每次访问都要加锁。如何更好的如何减少锁竞争次数呢 ?
方案一 双缓冲消息队列:
两个队列,一个给逻辑线程读,一个给IO线程用来写,当逻辑线程读完队列后会将自己的队列与IO线程的队列相调换。
IO线程每次写队列时都要加锁,逻辑线程在调换队列时也需要加锁,但逻辑线程在读队列时是不需要加锁的.
队列缓冲区的大小要根据数据量的大小进行调整的,如果缓冲区很小,就能更及时的处理数据,但吞吐量以及出现资源竞争的几率大多了。
可以给缓冲队列设置最大上限,超过上限的数量之后,将包丢弃不插入队列。
另外,双缓冲的实现也有不同策略的,
一是读操作优先,就是生产者只要发现空闲缓冲,马上swap,
二是写线程只有在当前的缓冲区写满了,才进行swap操作。
三是上层逻辑按照帧率来处理,每一帧的时候将双层缓冲队列调换一下,取一个队列来处理即可.
方案二 提供一个队列容器:
提供一个队列容器,里面有多个队列,每个队列都可固定存放一定数量的消息。网络IO线程要给逻辑线程投递消息时,会从队列容器中取一个空队列来使用,
直到将该队列填满后再放回容器中换另一个空队列。而逻辑线程取消息时是从队列容器中取一个有消息的队列来读取,处理完后清空队列再放回到容器中。
这样便使得只有在对队列容器进行操作时才需要加锁,而IO线程和逻辑线程在操作自己当前使用的队列时都不需要加锁,所以锁竞争的机会大大减少了。
这里为每个队列设了个最大消息数,看来好像是打算只有当IO线程写满队列时才会将其放回到容器中换另一个队列。那这样有时也会出现IO线程未写满一
个队列,而逻辑线程又没有数据可处理的情况,特别是当数据量很少时可能会很容易出现
[这个可以通过设置超时来处理, 如果当前时间-向队列放入第一个包的时间> 50 ms, 就将其放回到容器中换另一个队列]。
通常我们逻辑服务器会以场景来划分线程,不同线程执行不同场景.一个线程可以执行多个场景.因为玩家属于场景,我们会把玩家数据,包括其缓冲池丢给场景 去处理.
- 服务器双缓冲消息队列方案
- 服务器应用--双缓冲队列
- 服务器应用--双缓冲队列
- 服务器应用--双缓冲队列
- 服务器应用--双缓冲队列
- 双缓冲消息队列-减少锁竞争
- 双缓冲消息队列-减少锁竞争
- 双缓冲消息队列-减少锁竞争
- 双缓冲消息队列-减少锁竞争
- 双缓冲消息队列-减少锁竞争
- 双缓冲消息队列-减少锁竞争
- FIFO消息队列(内存、文件双缓冲模式)
- 双缓冲队列
- 双缓冲队列尝试
- 双缓冲队列
- 双缓冲队列
- 双缓冲队列
- 环形双缓冲队列
- 页面弹出一个浏览器
- NYOJ 40 公约数和公倍数
- 1号店董事长于刚:试水O2O 打通线上线下业务
- 使用injectso技术注入mtrace,对进程进行内存检测
- 元芳,PHP学习哪里好?
- 服务器双缓冲消息队列方案
- 马云高调复出做“菜鸟” 被质疑只是圈地
- 第十二堂作业
- NYOJ 11 奇偶分离
- 13周项目一
- 电信联通再拒TD牌照:唯恐中移动再次称霸
- ExtJs4入门之六: Grid组件简单示例
- NYOJ 324 猴子吃桃
- 博彦科技上演"蛇吞象"并购 股价逆势大涨