提高单机短连接QPS到20万
来源:互联网 发布:js回车事件 编辑:程序博客网 时间:2024/05/20 05:03
一般的通讯协议在设计上都避免服务器端主动发起TCP连接关闭,让客户端来发起close socket,避免服务器端端口和内存的资源消耗
默认情况下,客户端关闭TCP连接后本地的临时端口会长时间进入TIME_WAIT状态(默认120s),TIME_WAIT状态是为了保护TCP协议的正确性,避免端口发生复用后老的TCP连接残留在网络上的报文进入新的连接里。但这也引入了一个问题,临时端口数量有限,耗尽后,新建连接就会报错EADDRNOTAVAIL
首先要增加临时端口的数量,增加可被消耗的临时端口资源
sysctl -w "net.ipv4.ip_local_port_range=1024 65535”
然后要加速临时端口回收
第一种方法是启用tw_reuse,tw_reuse能加速TIME_WAIT状态端口在几秒时间内安全的回收
sysctl -w net.ipv4.tcp_timestamps=1
sysctl -w net.ipv4.tcp_tw_reuse=1
2.6.32内核下启动tw_reuse短连接可以达到2w,性能并不稳定;
第二种方法更激进些,启用tw_recycle,tw_recycle允许在两个RTT。当多个客户端处于NAT后时,在服务器端开启tw_recycle会引起丢包问题,如果丢SYN包,就会造成新建连接失败
sysctl -w net.ipv4.tcp_timestamps=1
sysctl -w net.ipv4.tcp_tw_recycle=1
2.6.32内核下启动tw_recycle短连接可以达到6w,比较稳定;
第三种方法是给socket配置SO_LINGER,on设为1,linger设为0,这样关闭连接后TCP状态从ESTAB直接进入CLOSED,向服务器发rst包而不是fin包来关闭连接。这种方法风险最高,会丢弃buffer里未发送完的数据,不过通过设计协议(客户端和服务器协议上协商后再关闭TCP连接)可以规避这个问题,使用需要小心,选择合适的场景。
这个方法可以完全解掉TIME_WAIT问题,短连接达到20w,很稳定
短连接QPS达到20w后,网卡pps接近百万,耗时主要在软中断,内核spin_lock和网卡驱动里,也基本让内核态网络协议栈负载饱和了
当然,这些调优的前提是先写一对高性能的客户端和服务器端程序
- 提高单机短连接QPS到20万
- 提高单机短连接QPS到20万
- 《提高单机短连接QPS到20万》读后分享
- 优化openfire服务器,达到单机20万,集群50万
- 优化openfire服务器,达到单机20万,集群50万
- MongoDB的简单QPS测试(单机)
- Mysql的简单QPS测试(单机)
- Nginx 单机百万QPS环境搭建
- Nginx 单机百万QPS环境搭建
- 常见开源产品epoll网络事件模型分析(附200万QPS实现长连接echo server方案)
- DataGuard 单机到单机
- MySQL TPS、QPS、连接数
- 提高Linux系统应对短连接的负载能力
- 如何提高Linux系统应对短连接的负载能力
- 提高Linux应对短连接的负载能力
- 单机25万tcp长连接后,gc cpu前后比对图
- AliRedis单机180w QPS, 8台服务器构建1000w QPS Cache集群
- QPS
- Js面向对象的个人理解
- 27. Remove Element
- 有点小奇怪
- 不使用ES6 语法糖
- Codeforces 475D CGCDSSQ 题解
- 提高单机短连接QPS到20万
- 【MongoDB】Shard key
- Java机器学习库ML之四模型训练和预测示例
- 数据存储之文件存储
- 欢迎使用CSDN-markdown编辑器
- spring配置文件详解
- C# 中的委托和事件 ——张子阳
- Python FileNotFoundError: [WinError 2] 系统找不到指定的文件。
- 华院数据 学习 D04