深信服AD服务器负载方案

   解决方案

1.1    网络拓扑

我们推荐使用深信服AD服务器负载均衡解决方案。本方案设计采用SANGFOR AD应用交付设备来实现网络中多台服务器的智能负载；具体部署情况如下：

1.2    方案描述

1.2.1   方案设计

本方案设计充分考虑网络的稳定性以及后续的扩展性，采用深信服M5X00-AD设备实现服务器负载均衡。深信服AD设备包含了链路负载均衡、全局负载均衡和服务器负载均衡三大功能，对后续网络和应用系统的扩建、稳定性保障以及优化建设都有很好的扩展性。

1、两台SANGFOR AD以单臂方式接入网络，在实现流量的负载均衡的同时，保证整个系统的稳定和高可用性，而且没有改变原有的网络结构。

2、当用户请求到SANGFOR AD设备的时候，根据预先设定好负载策略能够合理的将每个连接快速的分配到相应的服务器。

3、通过对服务器健康状况的实时监控，能够实时的发现故障服务器，及时将用户的访问请求切换到其他正常服务器之上。

4、配合深信服独特的单边加速技术，能够是现在用户端不安装任何插件和客户端的情况下提升用户的访问速度。

5、通过深信服AD设备具备的缓存、压缩、ssl卸载、连接复用等功能进一步降低服务器性能消耗。

1.2.2   方案实现

深信服AD将所有真实服务器配置成虚拟服务来实现负载均衡，对外直接发布一个虚拟服务IP。同时深信服AD可持续检查服务器的健康状态，一旦发现故障服务器，则将其从负载均衡组中移除。

方案具体实现方式（修改源IP方式）如下：

1. 客户通过访问虚拟IP，发出服务请求到深信服 AD设备。

2. 深信服AD接收到请求，通过预先设定好的负载均衡算法，将数据包中目的IP地址改为选中的后台服务器IP地址，然后将数据包发出到后台选定的服务器。

3. 后台服务器收到后，将应答包按照其路由发回深信服AD。

4. 深信服AD设备收到应答包后将其中的源地址改回成虚拟IP地址，发回客户端，由此就完成了一个标准的服务器负载平衡的流程。

1.3    稳定性保障机制

1.3.1        系统健康状况监控

深信服AD可以监视服务器在IP、TCP、UDP、应用和内容等所有协议层上的工作状态。一旦某台服务器出现故障，用户将被透明地引导到正常工作的服务器上。通过可靠的健康检查机制可以保证用户始终能够获得最佳的服务。（参见4.1）

1.3.2        应用系统冗余机制

深信服AD设备不仅能够实现服务器间冗余机制，还能够实现基于设备自身的冗余机制以及多站点之间的冗余机制，形成应用系统稳定性保障上的三个层次冗余。无论上述哪种应用承载体出现故障，通过深信服AD的冗余机制切换保障应用系统的可用性。

设备自身冗余：深信服 AD设备之间支持以主备的冗余方式接入网络，处于备份状态的设备采用“心跳线”监测运行的主设备的状态，当检测出主设备出现故障时，两台设备就会实现毫秒级切换，备份设备会切换为运行主机，为用户提供服务，保证了系统的高可用性。

多站点设备冗余：深信服AD通过全局负载均衡功能可以在不同站点上安装许多深信服AD设备，从而实现多个站点之间的冗余。即便是某站点发生故障造成该站点内的服务器和负载设备都不可用，备用站点将通冗余机制自动提供服务，保障用户访问的持续性。

1.3.3        服务器平滑退出

当需要进行系统维护或者服务器升级时，通过服务器平滑推出机制，深信服AD能够保证服务器退出时不会造成用户的访问中断。　当管理人员选定某台服务器要从服务器组内退出服务后，深信服AD将不会把新的用户分配到该服务器。当该服务器处理完当前用户之后，就可以开始进行对服务器的相应管理和维护了。

1.3.4   服务器平滑进入

将新的或维护过后的服务器添加到服务器组时，通过服务器平滑进入机制，深信服AD能够避免新服务器因突然出现的流量冲击导致系统故障情况的出现。在将新服务器加入到服务器组时，深信服AD将逐渐地增加分配到该服务器的流量，直至达到其完全的处理能力。从而不仅保证用户在服务器退出服务时，同时还保证服务器在启动期间以及应用程序开始时，均能获得不间断服务。

1.4    多重负载均衡机制

深信服AD支持轮询、加权轮询、最快响应时间、动态反馈、加权最小连接、哈希、优先级等算法，通过这些算法可以实现用户访问请求在多台服务器之间的动态分配。

1.4.1   应用类型负载

深信服AD支持基于 IP 地址、应用类型和内容等因素实现流量负载。通过这种方式管理员就可以为不同类型的应用类型分配不同的服务器资源。应用类型调度支持基于不同协议上的多种应用，包括 TCP、UDP、IP、DNS、e-mail、FTP、HTTP 等等。

1.4.2   基于URL负载

深信服AD产品支持基于URL的负载均衡，根据URL信息实现用户访问请求负载，可以将用户的访问请求定向到某台服务器，或实现在多个服务器之间进行负载均衡，从而提供优化服务器资源利用率。如通过一个公网IP地址来实现两个host域名的发布，就是典型的AD设备通过识别URL将用户访问分配对应的主机发布服务器之上。

根据 URL 文本中包含的信息负载技术，不仅可以保持客户持续性，而且在客户网络应用优化方面有更多个性化选择。

1.4.3   七层内容负载

基于七层内容的调度使管理员可以根据用户请求的内容来分配服务器资源，例如基于HTTP包头内容的负载技术让管理员可以根据用户请求的内容来分配服务器资源。例如，大型的应用系统中，静态脚本可以位于一个单独的服务器组，当发生对该静态脚本的请求时，会话就被重定向到其中某个服务器，这样就保证用户请求分配的多元化和个性化，为管理人员提供更多分配策略和机制。

深信服服务器负载均衡支持基于URI、HOST、COOKIE、USER_AGENT等信息的请求负载。

1.5    服务器性能优化

深信服AD设备支持TCP连接复用、内存缓存、HTTP压缩、SSL加速等众多优化技术通过减少服务器的硬件资源消耗，缩短服务器响应时间，在节省了硬件投资成本的同时，提升了用户的访问体验（详细介绍参见4.6）。

1.6    单边加速技术

深信服 AD单边加速解决方案，区别于传统的加速解决方案。首先，它不需要在用户电脑上安装任何软件和控件，对用户访问透明，而且可以在不升级带宽的前提下，减少应用程序的响应时间，提升用户的访问速度。

在各类的网络环境之中，深信服 AD的单边加速技术在不需要安装任何插件或者软件的情况下，能够极大的提升用户的访问速度，特别是比较常见的跨运营商的网络环境之中，深信服 AD的单边加速能够显著提高网络效率，提升空间一般在2倍至50倍之间，有的情况下甚至高达100倍。

1.7    商业智能分析

深信服AD设备具备强大的统计分析功能，能够有效统计分析服务器的使用情况，包括流量、连接数、用户数。能够有效统计服务器的使用状况，包括连接数、响应时间、健康状态等。能有效统计访问用户的时间、地域分布特性以及用户的应用访问偏好，能够帮助企业快速全面的了解整个应用发布系统各个元素的运行状况。

   相关技术介绍

2.1    负载均衡算法

深信服AD支持多重负载均衡算法将所有流量均衡的分配到各个服务器，不仅充分利用所有的服务器资源，而且各个服务器均衡的承担流量处理任务，从而有效地避免服务器处理任务“不平衡”现象的发生。

轮询:　按照请求的先后顺序将用户请求循环地分配到每台服务器。一旦某台服务器出现故障将不再为其分配任务，直至服务器恢复正常。

加权轮询：　由于集群中的不同服务器可能有不同的功能，因此可以为各个服务器分配不同的加权值。根据这个比例，把用户的请求分配到每个服务器。

加权最小连接：　根据事先为各服务器设定的权值，在调度新连接时尽可能的使服务器已建立连接数和其权值构成比例，AD把新的连接请求分配到当前比例最小的服务器上。

最快响应: 　按照响应时间大小对服务器重新分配权值，响应时间小的服务器权值大，响应时间大的服务器权值小，从而响应时间小的服务器获得更多的连接请求， 但又照顾一部分响应时间大的服务器，避免负载倾斜。

动态反馈:　 通过检测服务CPU等相关设备利用率综合情况，来判断各个服务器的服务处理能力的， 在调度新连接时尽可能的选择性能最佳的服务器。

一致性哈希算法：　支持URL、HOST、SRC_IP。

优先级：　将服务器按优先级分组，优先调度优先级高的，只有优先级高的服务器发生故障，才调度优先级低的服务器。

哈希：支持基于URI、 HOST、SRC_IP的哈希算法，将用户不同的用户访问调度到不同的链路上，如不同的域名请求访问调度不到不同的链路之上。

2.2    健康检查机制

深信服AD支持包括基于硬件运行状况的检查、基于应用类型的健康检查以及自定义的健康检查机制。

基于硬件运行状况的检查：通过PING、SNMP等方式监控服务器的运行状况，一旦出现ping无回包、服务器资源消耗过高、死机等情况，都可以实时将访问请求分配到其他正常的服务器之上。

基于应用类型的检查：深信服AD支持根据不同应用类型交互机制设定相应的健康检查机制，如HTTP、FTP、email等都可以通过相应的健康机制监控应用的运行状况，如果发现故障，用户即被透明地分配到其它正常工作的服务器上。

自定义内容检查机制：是通过预设自定义字符串，来判断服务器应用是否运行正常；如对某个应用用户通过预先设定该应用正常返回包中应该包含的字符串，深信服AD检验服务器返回数据包内是否包含了该特定内容，如果没有包含该内容，就认定该服务器故障，将用户的访问请求分配到其他健康的服务器之上。

2.3    会话保持

通过深信服AD的会话保持技术为客户选择用户曾连接上的那台服务器，实现无缝地处理用户请求。深信服AD会话保持的功能将减少新建连接的数量，这将有助于减少负载均衡的系统开销。

Cookies保持， Cookie持续性利用客户机存储的cookie信息来把客户机连接到合适的服务器上。其原理如下：

首次命中

HTTP请求（不带有cookie）进入SANGFOR AD。

SANGFOR AD任选一台服务器，将请求发送至该服务器。

来自该服务器的HTTP回复此时包括一个空白的cookie 。

SANGFOR AD重写cookie，并在粘贴一个特殊的cookie后将HTTP回复发送回去。

再次命中

HTTP请求（带有与上面同样的cookie）进入SANGFOR AD。

SANGFOR AD借助cookie信息确定合适的服务器。

HTTP请求（带有与上面同样的cookie）进入服务器。

HTTP回复（带有空白cookie）返回SANGFOR AD，后者将向客户机提供更新后的cookie。

IP保持， 在这一模式下，只要持续性计数器尚未到时，指定流向某虚拟服务器的特定用户流量就会持续流向同一台服务器。

2.4    单边加速技术

深信服单边加速技术通过自动、实时、持续、动态地侦测网络路径中的延迟、丢包、重传的情况，改变传出机制和改善传输拥塞机制，避免数据报文的过度重发，减少应用响应时间，提升TCP传输效率，从而节省了企业广域网带宽资源和响应时间。单边加速使用效果，参见下表：

网络世界评测模拟环境数据

网络世界评测真实环境数据

2.5    商业智能分析

深信服AD产品具有强大商业智能分析能力，从用户的角度出发，对整个数据流程进行监测，包括用户、链路、应用、服务器等，对整个应用交付的各个元素进行详细的分析，主要可以分为以下几个方面：

1、详细的链路报表：提供单条或多条链路的详细报表，包括链路上下行流量报表、会话连接链路分布报表、链路IP访问量报表、链路质量报表等。通过上述报表能够准确了解企事业单位多条链路的负荷状况以及健康状况，为企事业单位对自身的链路部署策略提供决策依据。

2、丰富的服务报表：包括服务器的响应时间统计报表、服务在单条/全部链路之上数据的IP/用户访问数量统计报表、各服务器流量以及连接数统计报表、各服务器健康情况统计等。通过上述报表能够让客户了解服务器的负载情况以及服务器健康状况，并以此为基础进一步优化服务器的均衡策略，调整服务器的部署方法，充分利用自身服务器资源。

3、商业决策报表：包括按时间段分析各服务访问量报表、按区域分析各服务访问量报表、按服务资源（如：URL）分析访问量报表。上述报表能够协助企事业单位收集商业各类信息，让企事业单位了解服务的时间分布特性，熟悉最终用户的访问的时间偏好，在此基础之上决定是否采取相应的手段保证服务能够平稳度过高峰期，保证服务的稳定性。同样企事业单位也能非常直观快捷的了解到最终用户的使用偏好，比如哪些应用访问频率最高，哪些应用很少被人访问，并可以以此作为为商业决策的数据来源之一。