LVS三种工作模式脚本及比较

May 9, 2015

yum -y install ipvsadm
modprobe -l|grep ipvs     ##检查ipvs的模块

-g 表示使用 DR 方式，-m 表示 NAT 方式，-i 表示 tunneling 方式。

一、DR 模式

堡垒机脚本：

lvs.sh

#！/bin/sh
 VIP=192.168.0.210
 RIP1=192.168.0.175
 RIP2=192.168.0.145
 . /etc/rc.d/init.d/functions
         case "$1" in
         start)
         echo "start LVS of DirectorServer"
         #Set the Virtual IP Address
         /sbin/ifconfig eth0:1 $VIP broadcast $VIP netmask 255.255.255.255 up
         /sbin/route add -host $VIP dev eth0:1
         #Clear IPVS Table
         /sbin/ipvsadm -C
         #Set Lvs
         /sbin/ipvsadm -A -t $VIP:80 -s rr
         /sbin/ipvsadm -a -t $VIP:80 -r $RIP1:80 -g
         /sbin/ipvsadm -a -t $VIP:80 -r $RIP2:80 -g
         #Run Lvs
         /sbin/ipvsadm
         ;;
         stop)
         echo "close LVS Directorserver"
         /sbin/ipvsadm -C
         /sbin/ifconfig eth0:1 down
         ;;
         *)
         echo "Usage： $0 {start|stop}"
         exit 1
         esac

真实机脚本:

real-server.sh

#!/bin/bash
 VIP=192.168.0.210
 BROADCAST=192.168.0.255  #vip's broadcast
 . /etc/rc.d/init.d/functions
 case "$1" in
     start)
      echo "reparing for Real Server"
        echo "1" >/proc/sys/net/ipv4/conf/lo/arp_ignore
        echo "2" >/proc/sys/net/ipv4/conf/lo/arp_announce
        echo "1" >/proc/sys/net/ipv4/conf/all/arp_ignore
        echo "2" >/proc/sys/net/ipv4/conf/all/arp_announce
        ifconfig lo:0 $VIP netmask 255.255.255.255 broadcast $BROADCAST up
         /sbin/route add -host $VIP dev lo:0
         ;;
     stop)
         ifconfig lo:0 down
        echo "0" >/proc/sys/net/ipv4/conf/lo/arp_ignore
        echo "0" >/proc/sys/net/ipv4/conf/lo/arp_announce
        echo "0" >/proc/sys/net/ipv4/conf/all/arp_ignore
        echo "0" >/proc/sys/net/ipv4/conf/all/arp_announce
         ;;
     *)
         echo "Usage: lvs {start|stop}"
         exit 1
 esac

二、TUN 模式

tun

堡垒机脚本：

lvs.sh

#!/bin/sh
 # description: start LVS of Directorserver
 VIP=192.168.25.41（注意，lvs server那台机器2个ip，一个是vip,一个是本身ip例如192.168.25.42）
 RIP1=192.168.25.44
 RIP2=192.168.25.45
 #RIPn=192.168.0.n
 GW=192.168.25.254
 . /etc/rc.d/init.d/functions
 case "$1" in
 start)
 echo " start LVS of DirectorServer"
 # set the Virtual IP Address
 /sbin/ifconfig tunl0 $VIP broadcast $VIP netmask 255.255.255.0 up
 /sbin/route add -host $VIP dev tunl0
 #Clear IPVS table
 /sbin/ipvsadm -C
 #set LVS
 /sbin/ipvsadm -A -t $VIP:80 -s rr
 /sbin/ipvsadm -a -t $VIP:80 -r $RIP1:80 -i
 /sbin/ipvsadm -a -t $VIP:80 -r $RIP2:80 -i
 #/sbin/ipvsadm -a -t $VIP:80 -r $RIP3:80 -i
 #Run LVS
 /sbin/ipvsadm
 #end
 ;;
 stop)
 echo "close LVS Directorserver"
 ifconfig tunl0 down
 /sbin/ipvsadm -C
 ;;
 *)
 echo "Usage: $0 {start|stop}"
 exit 1
 esac

真实机脚本:

real-server.sh

#!/bin/sh
 # ghb in 20060812
 # description: Config realserver tunl port and apply arp patch
 VIP=192.168.25.43
 . /etc/rc.d/init.d/functions
 case "$1" in
 start)
 echo "Tunl port starting"
 ifconfig tunl0 $VIP netmask 255.255.255.0 broadcast $VIP up
 /sbin/route add -host $VIP dev tunl0
 echo "1" >/proc/sys/net/ipv4/conf/tunl0/arp_ignore
 echo "2" >/proc/sys/net/ipv4/conf/tunl0/arp_announce
 echo "1" >/proc/sys/net/ipv4/conf/all/arp_ignore
 echo "2" >/proc/sys/net/ipv4/conf/all/arp_announce
 sysctl -p
 ;;
 stop)
 echo "Tunl port closing"
 ifconfig tunl0 down
 echo 1 > /proc/sys/net/ipv4/ip_forward
 echo 0 > /proc/sys/net/ipv4/conf/all/arp_announce
 ;;
 *)
 echo "Usage: $0 {start|stop}"
 exit 1
 esac

三、NAT 模式

nat

堡垒机脚本：

lvs.sh

#!/bin/sh
 # description: start LVS of Nat
 VLAN-IP=202.99.59.110
 RIP1=10.1.1.2
 RIP2=10.1.1.3
 #RIPn=10.1.1.n
 GW=10.1.1.1
 . /etc/rc.d/init.d/functions
 case "$1" in
 start)
 echo " start LVS of NAtServer"
 echo "1" >/proc/sys/net/ipv4/ip_forward
 echo "0" >/proc/sys/net/ipv4/conf/all/send_redirects
 echo "0" >/proc/sys/net/ipv4/conf/default/send_redirects
 echo "0" >/proc/sys/net/ipv4/conf/eth0/send_redirects
 echo "0" >/proc/sys/net/ipv4/conf/eth1/send_redirects(内网卡上的)
 #Clear IPVS table
 /sbin/ipvsadm -C
 #set LVS
 /sbin/ipvsadm -a -t 202.99.59.110:80 -r 10.1.1.2:80 -m -w 1
 /sbin/ipvsadm -a -t 202.99.59.110:80 -r 10.1.1.3:80 -m -w 1
 #Run LVS
 /sbin/ipvsadm
 #end
 ;;
 stop)
 echo "close LVS Nat server"
 echo "0" >/proc/sys/net/ipv4/ip_forward
 echo "1" >/proc/sys/net/ipv4/conf/all/send_redirects
 echo "1" >/proc/sys/net/ipv4/conf/default/send_redirects
 echo "1" >/proc/sys/net/ipv4/conf/eth0/send_redirects
 echo "1" >/proc/sys/net/ipv4/conf/eth1/send_redirects(内网卡上的)
 /sbin/ipvsadm -C
 ;;
 *)
 echo "Usage: $0 {start|stop}"
 exit 1
 esac

VS-Nat 模式的后端机器不需要配置。

LVS 三种工作模式的优缺点比较

一、Virtual server via NAT（VS-NAT）

优点： 集群中的物理服务器可以使用任何支持 TCP/IP 操作系统，物理服务器可以分配 Internet 的保留私有地址，只有负载均衡器需要一个合法的 IP 地址。

缺点： 扩展性有限。当服务器节点（普通 PC 服务器）数据增长到 20 个或更多时,负载均衡器将成为整个系统的瓶颈，因为所有的请求包和应答包都需要经过负载均衡器再生。假使 TCP 包的平均长度是 536 字节的话，平均包再生延迟时间大约为 60us（在 Pentium 处理器上计算的，采用更快的处理器将使得这个延迟时间变短），负载均衡器的最大容许能力为 8.93M/s，假定每台物理服务器的平台容许能力为 400K/s 来计算，负责均衡器能为 22 台物理服务器计算。

解决办法： 即使是是负载均衡器成为整个系统的瓶颈，如果是这样也有两种方法来解决它。一种是混合处理，另一种是采用 Virtual Server via IP tunneling 或 Virtual Server via direct routing。如果采用混合处理的方法，将需要许多同属单一的 RR DNS 域。你采用 Virtual Server via IP tunneling 或 Virtual Server via direct routing 以获得更好的可扩展性。也可以嵌套使用负载均衡器，在最前端的是 VS-Tunneling 或 VS-Drouting 的负载均衡器，然后后面采用 VS-NAT 的负载均衡器。

二、Virtual server via IP tunneling（VS-TUN）

我们发现，许多 Internet 服务（例如 WEB 服务器）的请求包很短小，而应答包通常很大。

优点： 负载均衡器只负责将请求包分发给物理服务器，而物理服务器将应答包直接发给用户。所以，负载均衡器能处理很巨大的请求量，这种方式，一台负载均衡能为超过 100 台的物理服务器服务，负载均衡器不再是系统的瓶颈。使用 VS-TUN 方式，如果你的负载均衡器拥有 100M 的全双工网卡的话，就能使得整个 Virtual Server 能达到 1G 的吞吐量。

不足： 但是，这种方式需要所有的服务器支持”IP Tunneling”(IP Encapsulation)协议，我仅在 Linux 系统上实现了这个，如果你能让其它操作系统支持，还在探索之中。

三、Virtual Server via Direct Routing（VS-DR）

优点： 和 VS－TUN 一样，负载均衡器也只是分发请求，应答包通过单独的路由方法返回给客户端。与 VS-TUN 相比，VS-DR 这种实现方式不需要隧道结构，因此可以使用大多数操作系统做为物理服务器，其中包括：Linux 2.0.36、2.2.9、2.2.10、2.2.12；Solaris 2.5.1、2.6、2.7；FreeBSD 3.1、3.2、3.3；NT4.0 无需打补丁；IRIX 6.5；HPUX11 等。

不足： 要求负载均衡器的网卡必须与物理网卡在一个物理段上。

附比较表格图:

bijiao