LVS 原理和nat DR 模式配置介绍
来源:互联网 发布:笑郭网络验证3.9 编辑:程序博客网 时间:2024/05/18 17:57
工作原理 :VS根据请求报文的目标IP和目标协议及端口将其调度转 发至某RS,根据调度算法来挑选RS 。
lvs集群类型中的术语:
VS:Virtual Server, Director, Dispatcher(调度器) Load Balancer RS:Real Server(lvs), upstream server(nginx) backend server(haproxy) CIP:Client IP VIP: Virtual serve IP VS外网的IP DIP: Director IP VS内网的IP RIP: Real server IP 访问流程:CIP <--> VIP == DIP <--> RIP
lvs集群的类型
lvs-nat:修改请求报文的目标IP,多目标IP的DNAT
lvs-dr:操纵封装新的MAC地址
lvs-tun:在原请求IP报文之外新加一个IP首部
lvs-fullnat:修改请求报文的源和目标IP
lvs-nat:
本质是多目标IP的DNAT,通过将请求报文中的目标地址和目标端口修改为某挑出的RS的RIP和PORT实现转发
(1)RIP和DIP必须在同一个IP网络,且应该使用私网地址;RS的网关要指向DIP
(2)请求报文和响应报文都必须经由Director转发,Director易于成为系统瓶颈
(3)支持端口映射,可修改请求报文的目标PORT
(4)VS必须是Linux系统,RS可以是任意OS系统
CIP——>VIP===DIP—–>RIP RIP===>DIP—->CIP 是做目标地址转换。
tcpdump -i ens39 -e -nn src 172.18.1.100 and tcpLVS-DR模式
LVS-DR:Direct Routing,直接路由,LVS默认模式,应用最广泛,通过为请求报文重新封装一个MAC首部进行转发,源MAC是DIP
所在的接口的MAC,目标MAC是某挑选出的RS的RIP所在接口的MAC地址;源IP/PORT,以及目标IP/PORT均保持不变
Director和各RS都配置有VIP
(1) 确保前端路由器将目标IP为VIP的请求报文发往Director
在前端网关做静态绑定VIP和Director的MAC地址
(2)在RS上使用arptables工具 arptables -A IN -d $VIP -j DROP arptables -A OUT -s $VIP -j mangle --mangle-ip-s $RIP
(3) 在RS上修改内核参数以限制arp通告及应答级别 arp_announce arp_ignore
(2) RS的RIP可以使用私网地址,也可以是公网地址;RIP与 DIP在同一IP网络;RIP的网关不能指向DIP,以确保响应报文 不会经由Director
(3) RS和Director要在同一个物理网络
(4) 请求报文要经由Director,但响应报文不经由Director,而 由RS直接发往Client
(5) 不支持端口映射(端口不能修败)
(6) RS可使用大多数OS系统
lvs-fullnat 和 lvs-tun 模式使用很少,这里不做详细介绍了。
lvs-nat与lvs-fullnat:请求和响应报文都经由Director
lvs-nat: RIP的网关要指向DIP
lvs-fullnat: RIP和DIP未必在同一IP网络,但要能通信
lvs-dr与lvs-tun:请求报文要经由Director,但响应报文由RS直接发往Client
lvs-dr:通过封装新的MAC首部实现,通过MAC网络转发
lvs-tun:通过在原IP报文外封装新IP头实现转发,支持远距离通信
ipvs scheduler:
根据其调度时是否考虑各RS当前的负载状态
一:静态方法:仅根据算法本身进行调度
1、RR:roundrobin,轮询
2、WRR:Weighted RR,加权轮询
3、SH:Source Hashing,实现session sticky,源IP地址hash;将来自于同一个IP地址的请求始终发往第一次挑中的 RS,从而实现会话绑定
4、DH:Destination Hashing;目标地址哈希,将发往同一 个目标地址的请求始终转发至第一次挑中的RS,典型使用场景 是正向代理缓存场景中的负载均衡,如:宽带运营商
二:动态方法:主要根据每RS当前的负载状态及调度算法进行调度Overhead=value 较小的RS将被调度
1、LC:least connections 适用于长连接应用Overhead=activeconns*256+inactiveconns
2、WLC:Weighted LC,默认调度方法 Overhead=(activeconns*256+inactiveconns)/weight
3、SED:Shortest Expection Delay,初始连接高权重优先Overhead=(activeconns+1)*256/weight
4、NQ:Never Queue,第一轮均匀分配,后续SED
5、LBLC:Locality-Based LC,动态的DH算法,使用场景:根据负载状态实现正向代理
6、LBLCR:LBLC with Replication,带复制功能的LBLC 解决LBLC负载不均衡问题,从负载重的复制到负载轻的RS
ipvsadm命令:
通过ipvsadm 可以集群服务管理:增、删、改,查看
ipvsadm -A|E -t|u|f service-address [-s scheduler] [-p [timeout]] [-M netmask] [--pe persistence_engine] [-b sched-flags] ipvsadm -D -t|u|f service-address 删除 ipvsadm –C 清空 ipvsadm –R 重载 ipvsadm -S [-n] 保存 ipvsadm -a|e -t|u|f service-address -r server-address [options] ipvsadm -d -t|u|f service-address -r server-address 增、改: ipvsadm -A|E -t|u|f service-address [-s scheduler] [-p [timeout]] 删除: ipvsadm -D -t|u|f service-address service-address: -t|u|f: -t: TCP协议的端口,VIP:TCP_PORT -u: TCP协议的端口,VIP:UDP_PORT -f:firewall MARK,标记,一个数字 [-s scheduler]:指定集群的调度算法,默认为wlc 增、改:ipvsadm -a|e -t|u|f service-address -r server-address [-g|i|m] [-w weight] 删:ipvsadm -d -t|u|f service-address -r server-address 选项: lvs类型: -g: gateway, dr类型,默认 -i: ipip, tun类型 -m: masquerade, nat类型 -w weight:权重 清空定义的所有内容:ipvsadm –C 清空计数器:ipvsadm -Z [-t|u|f service-address] 查看:ipvsadm -L|l [options] --numeric, -n:以数字形式输出地址和端口号 --exact:扩展信息,精确值 --connection,-c:当前IPVS连接输出 --stats:统计信息 --rate :输出速率信息 ipvs规则: /proc/net/ip_vs ipvs连接:/proc/net/ip_vs_conn 保存及重载规则 保存:建议保存至/etc/sysconfig/ipvsadm ipvsadm-save > /PATH/TO/IPVSADM_FILE ipvsadm -S > /PATH/TO/IPVSADM_FILE systemctl stop ipvsadm.service 重载: ipvsadm-restore < /PATH/FROM/IPVSADM_FILE ipvsadm -R < /PATH/FROM/IPVSADM_FILE systemctl restart ipvsadm.service
LVS-NAT 模式配置举例:
lvsnat 模式配置很简单,只需要在VS 上配置对服务的转发既可。下面举例 VIP 为 172.18.251.157 ,realserver 的ip 为 192.168.10.30 和 192.168.10.33 的 http 的nat 模式配置。
VS配置:
[root@VS yum.repos.d]#ipvsadm -A -t 172.18.251.157:80 -s rr -p 3000
[root@VS yum.repos.d]#ipvsadm -a -t 172.18.251.157:80 -r 192.168.10.30 -m
[root@VS yum.repos.d]#ipvsadm -a -t 172.18.251.157:80 -r 192.168.10.33 -m
[root@VS yum.repos.d]#ipvsadm -Ln #查看
IP Virtual Server version 1.2.1 (size=4096)
Prot LocalAddress:Port Scheduler Flags
-> RemoteAddress:Port Forward Weight ActiveConn InActConn
TCP 172.18.251.157:80 rr persistent 3000
-> 192.168.10.30:80 Masq 1 0 0
-> 192.168.10.33:80 Masq 1 0 0
LVS-DR 模式配置举例:
DR模式下数据流程说明:
client 发起请求到达vs—–>VS 经过自身的调度算法分配到后面的真实服务器—->服务器的回包经过路由器——>路由器回包给客户端,完成通信。这样做的好处是减轻了VS 的压力。
dr模型中,各主机上均需要配置VIP,解决地址冲突的方式有三种,推荐使用第三种方法。
(1) 在前端网关做静态绑定
(2) 在各RS使用arptables
(3) 在各RS修改内核参数,来限制arp响应和通告的级别
限制响应级别:arp_ignore
0:默认值,表示可使用本地任意接口上配置的任意地址进行响应
1: 仅在请求的目标IP配置在本地主机的接收到请求报文的接口上时,才给予响应
限制通告级别:arp_announce
0:默认值,把本机所有接口的所有信息向每个接口的网络进行通告
1:尽量避免将接口信息向非直接连接网络进行通告
2:必须避免将接口信息向非本网络进行通告
下面举例 vip 为 172.18.1.100 ,后台rip 分别为192.168.1.33 和 192.168.1.30 配置。
RS的预配置脚本
#!/bin/bash vip=172.18.1.100mask='255.255.255.255' dev=lo:1 case $1 in start) echo 1 > /proc/sys/net/ipv4/conf/all/arp_ignore echo 1 > /proc/sys/net/ipv4/conf/lo/arp_ignore echo 2 > /proc/sys/net/ipv4/conf/all/arp_announce echo 2 > /proc/sys/net/ipv4/conf/lo/arp_announce ifconfig $dev $vip netmask $mask broadcast $vip up echo "The RS Server is Ready!" ;; stop) ifconfig $dev down echo 0 > /proc/sys/net/ipv4/conf/all/arp_ignore echo 0 > /proc/sys/net/ipv4/conf/lo/arp_ignore echo 0 > /proc/sys/net/ipv4/conf/all/arp_announce echo 0 > /proc/sys/net/ipv4/conf/lo/arp_announce ;; *) echo "Usage: $(basename $0) start|stop" exit 1 ;; esac
VS的配置脚本
#!/bin/bash vip='172.18.1.100' iface='eth1' mask='255.255.255.255' port='80' rs1='192.168.1.33' rs2='192.168.1.30' scheduler='wrr' type='-g' case $1 in start) ifconfig $iface $vip netmask $mask broadcast $vip up iptables -F ipvsadm -A -t ${vip}:${port} -s $scheduler ipvsadm -a -t ${vip}:${port} -r ${rs1} $type -w 1 ipvsadm -a -t ${vip}:${port} -r ${rs2} $type -w 1 ;; stop) ipvsadm -C ifconfig $iface down ;; *) echo "Usage $(basename $0) start|stop";exit 1 ;; esac
测试:
客户端发起请求后,在 VS 上执行 ipvsadm -Ln 观察调度情况。
[root@VS ~]#ipvsadm -LnIP Virtual Server version 1.2.1 (size=4096)Prot LocalAddress:Port Scheduler Flags -> RemoteAddress:Port Forward Weight ActiveConn InActConnTCP 172.18.1.100:80 wrr -> 192.168.1.30:80 Route 1 0 1 -> 192.168.1.33:80 Route 1 0 2
- LVS 原理和nat DR 模式配置介绍
- LVS DR/NAT/FULLNAT/TUNNEL模式介绍
- lvs的nat模式和dr模式
- LVS-NAT和LVS-DR模式的实现详解
- LVS-NAT和LVS-DR模式的实现详解
- LVS-NAT和LVS-DR模式的实现详解
- LVS的NAT与DR模式的简单介绍与配置
- lvs DR NAT模式练习
- LVS的NAT与DR模式的简单配置
- 配置 LVS DR模式
- LVS DR模式配置
- LVS-NAT, LVS-DR, LVS-KEEPALIVED,LVS-TUN配置
- LVS/DR模式原理剖析
- LVS/DR模式原理剖析
- LVS--lvs-dr、lvs-nat配置(2)
- lvs群集DR模式介绍
- LVS-DR模式配置详解
- LVS之DR模式配置
- 如何在Linux下重启tomcat
- spoj 394ACODE
- 02-线性结构2 一元多项式的乘法与加法运算-中国大学MOOC-陈越、何钦铭-数据结构-2017秋
- java虚拟机和Dalvik虚拟机的区别
- 继承和组合的关系
- LVS 原理和nat DR 模式配置介绍
- Java 编程思想---异常处理
- javascript+canvas 实现HTML时钟
- websocket粘包处理
- UEFI引导下的Win10与ubuntu14.04(16.04)双系统安装
- iOS textfiled左边间隔距离控制 leftView
- 专业名称代码 sql创建脚本
- <考试题> bzoj 1821 部落划分 (二分、最小生成树)
- 自学内容