SANGFORAD应用服务器负载方案Word格式文档下载.docx

1、4.6.1 TCP连接复用 114.6.2 内存缓存 114.6.3 HTTP压缩 124.6.4 SSL加速 124.6.5 智能路由技术 134.6.6 智能告警技术 13第5章 客户案例 135.1.1 最高法选择深信服AD打造稳定的对外发布平台 135.1.2 广西质监部署深信服AD应用交付 155.2 更多成功客户 17第6章 SANGFOR专业服务 18第1章 概述随着组织机构的不断发展，为了节省业务运营成本和提升工作效率，组织对信息化系统的依赖程度越来越高。为了避免业务中断所带来极大损失，组织该如何保障业务系统的系统可用性和稳定性？由于业务系统的人数日益增多，单一的网络服务设备的

2、性能已经不能满足众多用户访问的需要，由此需要引入服务器的负载平衡，实现客户端可访问多台同时工作的服务器，动态分配每一个应用请求到后台的服务器，并即时按需动态检查各个服务器的状态，根据预设的规则将请求分配给最有效率的服务器。服务器负载均衡技术在现有网络结构之上能够提供一种廉价、有效、透明的方法来扩展网络设备和服务器的带宽、增加吞吐量、加强网络数据处理能力、提高网络的灵活性和可用性。它主要能够带来两方面的价值：1、能够建立有效的负载均衡机制传统的负载机制是建立在较简单负载均衡机制和较简单的健康检查机制上的，不能根据服务器提供服务的具体情况向其转发有效的访问流量。而通过构建新的负载均衡系统，可以采用

3、多种负载均衡机制，将大量的并发访问或数据流量分担到多台设备上分别处理，进而减少用户等待响应的时间，提升系统处理能力。2、能够建立有效的健康检查机制负载均衡系统可以对服务器的运行状况做出准确判断，确保提供服务的正确。全面的健康检查机制不仅可以有效的监控到服务进程的有效性，即对应用端口提供服务的能力进行健康检查，而且对于应用程序运行错误也同样可以提供有效的检查机制，从而避免了客户端可以访问到服务器，但得不到响应的情况的出现。第2章 需求分析XX单位作为 （关于客户应用的介绍）随着访问用户数量的增加，给XX单位的服务器带来越来越大的压力，如有有效的保证客户访问的速度和稳定性是目前XX单位网络改造的重

4、要目标。 XX单位希望通过服务器负载均衡机制，保证用户访问流量能在各服务器上均衡分配，提高服务器资源的利用率。1、通过负载均衡设备将用户访问请求分配到多台之上，提升应用系统的处理能力。2、当某台服务器发生故障时能被及时检测到，并且故障服务器将会被自动隔离，直到其恢复正常后自动加入服务器群，实现透明的容错，保证服务器整体性能得到大幅提升3、由于是对外发布的应用，存在部门用户的网络质量差、跨运营商访问的情况，造成访问速度变慢，希望通过一种对用户端透明方式（不需要在用户端安装任何的插件或者客户端）来提升用户的访问体验。4、希望能够通过相应优化机制来节省服务器的性能消耗，减少硬件投资成本，提升服务器相

5、应能力。第3章 解决方案3.1 网络拓扑通过和XX单位的工程师沟通，按照其单位网络架构和需求情况，我们推荐使用深信服AD服务器负载均衡解决方案。本方案设计采用SANGFOR AD应用交付设备来实现网络中多台服务器的智能负载；具体部署情况如下：3.2 方案描述3.2.1 方案设计本方案设计充分考虑网络的稳定性以及后续的扩展性，采用深信服M5X00-AD设备实现服务器负载均衡。深信服AD设备包含了链路负载均衡、全局负载均衡和服务器负载均衡三大功能，对后续网络和应用系统的扩建、稳定性保障以及优化建设都有很好的扩展性。1、两台SANGFOR AD以单臂方式接入网络，在实现流量的负载均衡的同时，保证整个

6、系统的稳定和高可用性，而且没有改变原有的网络结构。2、当用户请求到SANGFOR AD设备的时候，根据预先设定好负载策略能够合理的将每个连接快速的分配到相应的服务器。3、通过对服务器健康状况的实时监控，能够实时的发现故障服务器，及时将用户的访问请求切换到其他正常服务器之上。4、配合深信服独特的单边加速技术，能够是现在用户端不安装任何插件和客户端的情况下提升用户的访问速度。5、通过深信服AD设备具备的缓存、压缩、ssl卸载、连接复用等功能进一步降低服务器性能消耗。3.2.2 方案实现深信服AD将所有真实服务器配置成虚拟服务来实现负载均衡，对外直接发布一个虚拟服务IP。同时深信服AD可持续检查服务

7、器的健康状态，一旦发现故障服务器，则将其从负载均衡组中移除。方案具体实现方式（修改源IP方式）如下：1、 客户通过访问虚拟IP，发出服务请求到深信服 AD设备。2、 深信服AD接收到请求，通过预先设定好的负载均衡算法，将数据包中目的IP地址改为选中的后台服务器IP地址，然后将数据包发出到后台选定的服务器。3、 后台服务器收到后，将应答包按照其路由发回深信服AD。4、 深信服AD设备收到应答包后将其中的源地址改回成虚拟IP地址，发回客户端，由此就完成了一个标准的服务器负载平衡的流程。3.3 稳定性保障机制3.3.1 系统健康状况监控深信服AD可以监视服务器在IP、TCP、UDP、应用和内容等所有

8、协议层上的工作状态。一旦某台服务器出现故障，用户将被透明地引导到正常工作的服务器上。通过可靠的健康检查机制可以保证用户始终能够获得最佳的服务。（参见4.1）3.3.2 应用系统冗余机制深信服AD设备不仅能够实现服务器间冗余机制，还能够实现基于设备自身的冗余机制以及多站点之间的冗余机制，形成应用系统稳定性保障上的三个层次冗余。无论上述哪种应用承载体出现故障，通过深信服AD的冗余机制切换保障应用系统的可用性。设备自身冗余：深信服 AD设备之间支持以主备的冗余方式接入网络，处于备份状态的设备采用“心跳线”监测运行的主设备的状态，当检测出主设备出现故障时，两台设备就会实现毫秒级切换，备份设备会切换为运

9、行主机，为用户提供服务，保证了系统的高可用性。多站点设备冗余：深信服AD通过全局负载均衡功能可以在不同站点上安装许多深信服AD设备，从而实现多个站点之间的冗余。即便是某站点发生故障造成该站点内的服务器和负载设备都不可用，备用站点将通冗余机制自动提供服务，保障用户访问的持续性。3.3.3 服务器平滑退出当需要进行系统维护或者服务器升级时，通过服务器平滑推出机制，深信服AD能够保证服务器退出时不会造成用户的访问中断。当管理人员选定某台服务器要从服务器组内退出服务后，深信服AD将不会把新的用户分配到该服务器。当该服务器处理完当前用户之后，就可以开始进行对服务器的相应管理和维护了。3.3.4 服务器平

10、滑进入将新的或维护过后的服务器添加到服务器组时，通过服务器平滑进入机制，深信服AD能够避免新服务器因突然出现的流量冲击导致系统故障情况的出现。在将新服务器加入到服务器组时，深信服AD将逐渐地增加分配到该服务器的流量，直至达到其完全的处理能力。从而不仅保证用户在服务器退出服务时，同时还保证服务器在启动期间以及应用程序开始时，均能获得不间断服务。3.4 多重负载均衡机制深信服AD支持轮询、加权轮询、最快响应时间、动态反馈、加权最小连接、哈希、优先级等算法，通过这些算法可以实现用户访问请求在多台服务器之间的动态分配。3.4.1 应用类型负载深信服AD支持基于 IP 地址、应用类型和内容等因素实现流量

11、负载。通过这种方式管理员就可以为不同类型的应用类型分配不同的服务器资源。应用类型调度支持基于不同协议上的多种应用，包括 TCP、UDP、IP、DNS、e-mail、FTP、HTTP 等等。3.4.2 基于URL负载深信服AD产品支持基于URL的负载均衡，根据URL信息实现用户访问请求负载，可以将用户的访问请求定向到某台服务器，或实现在多个服务器之间进行负载均衡，从而提供优化服务器资源利用率。如通过一个公网IP地址来实现两个host域名的发布，就是典型的AD设备通过识别URL将用户访问分配对应的主机发布服务器之上。根据 URL 文本中包含的信息负载技术，不仅可以保持客户持续性，而且在客户网络应用

12、优化方面有更多个性化选择。3.4.3 七层内容负载基于七层内容的调度使管理员可以根据用户请求的内容来分配服务器资源，例如基于HTTP包头内容的负载技术让管理员可以根据用户请求的内容来分配服务器资源。例如，大型的应用系统中，静态脚本可以位于一个单独的服务器组，当发生对该静态脚本的请求时，会话就被重定向到其中某个服务器，这样就保证用户请求分配的多元化和个性化，为管理人员提供更多分配策略和机制。深信服服务器负载均衡支持基于URI、HOST、COOKIE、USER_AGENT等信息的请求负载。3.5 服务器性能优化深信服AD设备支持TCP连接复用、内存缓存、HTTP压缩、SSL加速等众多优化技术通过减

13、少服务器的硬件资源消耗，缩短服务器响应时间，在节省了硬件投资成本的同时，提升了用户的访问体验（详细介绍参见4.6）。3.6 单边加速技术深信服 AD单边加速解决方案，区别于传统的加速解决方案。首先，它不需要在用户电脑上安装任何软件和控件，对用户访问透明，而且可以在不升级带宽的前提下，减少应用程序的响应时间，提升用户的访问速度。在各类的网络环境之中，深信服 AD的单边加速技术在不需要安装任何插件或者软件的情况下，能够极大的提升用户的访问速度，特别是比较常见的跨运营商的网络环境之中，深信服 AD的单边加速能够显著提高网络效率，提升空间一般在2倍至50倍之间，有的情况下甚至高达100倍。3.7 商业

14、智能分析深信服AD设备具备强大的统计分析功能，能够有效统计分析服务器的使用情况，包括流量、连接数、用户数。能够有效统计服务器的使用状况，包括连接数、响应时间、健康状态等。能有效统计访问用户的时间、地域分布特性以及用户的应用访问偏好，能够帮助企业快速全面的了解整个应用发布系统各个元素的运行状况。第4章 相关技术介绍4.1 负载均衡算法深信服AD支持多重负载均衡算法将所有流量均衡的分配到各个服务器，不仅充分利用所有的服务器资源，而且各个服务器均衡的承担流量处理任务，从而有效地避免服务器处理任务“不平衡”现象的发生。轮询:按照请求的先后顺序将用户请求循环地分配到每台服务器。一旦某台服务器出现故障将不

15、再为其分配任务，直至服务器恢复正常。加权轮询：由于集群中的不同服务器可能有不同的功能，因此可以为各个服务器分配不同的加权值。根据这个比例，把用户的请求分配到每个服务器。加权最小连接：根据事先为各服务器设定的权值，在调度新连接时尽可能的使服务器已建立连接数和其权值构成比例，AD把新的连接请求分配到当前比例最小的服务器上。最快响应: 按照响应时间大小对服务器重新分配权值，响应时间小的服务器权值大，响应时间大的服务器权值小，从而响应时间小的服务器获得更多的连接请求， 但又照顾一部分响应时间大的服务器，避免负载倾斜。动态反馈: 通过检测服务CPU等相关设备利用率综合情况，来判断各个服务器的服务处理能力

16、的， 在调度新连接时尽可能的选择性能最佳的服务器。一致性哈希算法：支持URL、HOST、SRC_IP。优先级：将服务器按优先级分组，优先调度优先级高的，只有优先级高的服务器发生故障，才调度优先级低的服务器。哈希：支持基于URI、 HOST、SRC_IP的哈希算法，将用户不同的用户访问调度到不同的链路上，如不同的域名请求访问调度不到不同的链路之上。4.2 健康检查机制深信服AD支持包括基于硬件运行状况的检查、基于应用类型的健康检查以及自定义的健康检查机制。基于硬件运行状况的检查：通过PING、SNMP等方式监控服务器的运行状况，一旦出现ping无回包、服务器资源消耗过高、死机等情况，都可以实时将

17、访问请求分配到其他正常的服务器之上。基于应用类型的检查：深信服AD支持根据不同应用类型交互机制设定相应的健康检查机制，如HTTP、FTP、email等都可以通过相应的健康机制监控应用的运行状况，如果发现故障，用户即被透明地分配到其它正常工作的服务器上。自定义内容检查机制：是通过预设自定义字符串，来判断服务器应用是否运行正常；如对某个应用用户通过预先设定该应用正常返回包中应该包含的字符串，深信服AD检验服务器返回数据包内是否包含了该特定内容，如果没有包含该内容，就认定该服务器故障，将用户的访问请求分配到其他健康的服务器之上。4.3 会话保持通过深信服AD的会话保持技术为客户选择用户曾连接上的那台

18、服务器，实现无缝地处理用户请求。深信服AD会话保持的功能将减少新建连接的数量，这将有助于减少负载均衡的系统开销。Cookies保持， Cookie持续性利用客户机存储的cookie信息来把客户机连接到合适的服务器上。其原理如下：首次命中HTTP请求（不带有cookie）进入SANGFOR AD。SANGFOR AD任选一台服务器，将请求发送至该服务器。来自该服务器的HTTP回复此时包括一个空白的cookie 。SANGFOR AD重写cookie，并在粘贴一个特殊的cookie后将HTTP回复发送回去。再次命中HTTP请求（带有与上面同样的cookie）进入SANGFOR AD。SANGFOR

19、 AD借助cookie信息确定合适的服务器。HTTP请求（带有与上面同样的cookie）进入服务器。HTTP回复（带有空白cookie）返回SANGFOR AD，后者将向客户机提供更新后的cookie。IP保持，在这一模式下，只要持续性计数器尚未到时，指定流向某虚拟服务器的特定用户流量就会持续流向同一台服务器。4.4 单边加速技术深信服单边加速技术通过自动、实时、持续、动态地侦测网络路径中的延迟、丢包、重传的情况，改变传出机制和改善传输拥塞机制，避免数据报文的过度重发，减少应用响应时间，提升TCP传输效率，从而节省了企业广域网带宽资源和响应时间。单边加速使用效果，参见下表：网络世界评测模拟环境

20、数据3Mbps专线发送10MB大小文件时延（ms）丢包率（%）正常速率（KB/s）加速后正常耗时（秒）加速后耗时本地理想网络环境200.136436728.1327.9异地非理想网络环境250244.367115.33234.6689.66异地极差网络环境524.1387.23426.67117.6710Mbps专线发送10MB大小文件1218.561228.328.48.3343.17111.67237.679224.8786.23385119网络世界评测真实环境数据1MB文件正常速率（KB/s）加速后（KB/s）文件加速比泰国1MADSL 22.33 25.53 1.14 新加坡6.10

21、13.70 2.24 香港4M 228.67 387.33 1.69 深圳TD 33.97 46.67 1.37 英国8MAD 36.27 103.03 2.84 5MB文件20.30 54.07 2.66 3.29 14.43 4.39 222.67 244.93 1.0940.80 54.73 1.34 3.13 4.5 商业智能分析深信服AD产品具有强大商业智能分析能力，从用户的角度出发，对整个数据流程进行监测，包括用户、链路、应用、服务器等，对整个应用交付的各个元素进行详细的分析，主要可以分为以下几个方面：1、详细的链路报表：提供单条或多条链路的详细报表，包括链路上下行流量报表、会话连

22、接链路分布报表、链路IP访问量报表、链路质量报表等。通过上述报表能够准确了解企事业单位多条链路的负荷状况以及健康状况，为企事业单位对自身的链路部署策略提供决策依据。2、丰富的服务报表：包括服务器的响应时间统计报表、服务在单条/全部链路之上数据的IP/用户访问数量统计报表、各服务器流量以及连接数统计报表、各服务器健康情况统计等。通过上述报表能够让客户了解服务器的负载情况以及服务器健康状况，并以此为基础进一步优化服务器的均衡策略，调整服务器的部署方法，充分利用自身服务器资源。3、商业决策报表：包括按时间段分析各服务访问量报表、按区域分析各服务访问量报表、按服务资源（如：URL）分析访问量报表。上述

23、报表能够协助企事业单位收集商业各类信息，让企事业单位了解服务的时间分布特性，熟悉最终用户的访问的时间偏好，在此基础之上决定是否采取相应的手段保证服务能够平稳度过高峰期，保证服务的稳定性。同样企事业单位也能非常直观快捷的了解到最终用户的使用偏好，比如哪些应用访问频率最高，哪些应用很少被人访问，并可以以此作为为商业决策的数据来源之一。4.6 性能优化技术4.6.1 TCP连接复用深信服AD产品通过将众多客户端连接请求捆绑后，复用相对较少的服务器TCP连接，而不用通过一对一的方式把每一个用户的HTTP/TCP分配到服务器。在不需要改变任何网络构造也不需要增加组织的硬件投资成本的情况下减少服务器的负载

24、，从而提高服务器的处理能力。深信服AD产品预先与后台服务器之间建立多个TCP连接，并持续保持，这样显著减少了后台服务器需要处理的用户端连接数（减少量最高可以达到90%），加快了客户端与后台服务器之间的连接处理速度，提高应用系统的处理能力，节省组织的硬件投资成本。4.6.2 内存缓存深信服AD产品基于内存的反向代理Cache功能，在内存中以数据包的形式缓存网站等相关资源的页面内容，采用内存缓存和包存储结构的方式，通过动态调整缓存空间提供比其它缓存产品更快速的响应速度。深信服AD产品缓存功能降低用户访问对后台服务器的负载压力，在减小了后台服务器投资成本的同时，提高了系统的处理能力和用户的访问体验。

25、4.6.3 HTTP压缩深信服AD产品HTTP压缩功能，通过标准的HTTP压缩规范能够自动识别客户端对压缩算法的支持情况，并能够实现对数据动态压缩。深信服AD产品压缩功能最大程度上节省组织的互联网带宽，缩短用户下载内容的时间，减轻了Web Server的压力，节省硬件投资成本，提升用户的访问体验。4.6.4 SSL加速深信服AD产品SSL卸载技术具有极高的SSL处理能力，能够实现端到端的SSL加密，同时具备完整的证书管理特性。 深信服AD产品通过对服务器的SSL卸载处理，减少服务器性能消耗的同时，节省了应用系统服务器数量，降低了用户的应用硬件投资，大幅度缩短用户请求的响应时间从而极大提升了用户

26、的访问体验。4.6.5 智能路由技术智能路由技术是深信服AD应用交付产品智能化进程中又一里程碑，通过智能路由技术，管理人员即使对负载算法和策略不熟悉，只要选择目前自己对于链路利用所期望达到的效果，就可通过配置向导实现对负载策略的轻松配置。同时实现基于时间段的负载均衡，即在不同的时间段采用不同的负载均衡策略，实现网络和服务器资源利用率的最大化。4.6.6 智能告警技术通过管理员预先设定的想了解的信息，一旦链路或者服务器出现故障的时候就可以通过短信或者邮件的形式通知相关管理人员进行维护。支持报警对象包括：链路、服务器、虚拟服务、双机切换、网络攻击等。第5章 客户案例5.1.1 最高法选择深信服AD

27、打造稳定的对外发布平台应用背景:最高人民法院是中华人民共和国最高审判机关，负责审理各类案件，制定司法解释，监督地方各级人民法院和专门人民法院的审判工作，并依照法律确定的职责范围，管理全国法院的司法行政工作。地方各级人民法院包括高级人民法院、中级人民法院、基层人民法院，专门人民法院包括海事法院和军事法院。最高人民法院监督地方各级人民法院和专门人民法院的审判工作。上级人民法院监督下级人民法院的工作。根据统计，全国共有32个高级人民法院（含1个解放军军事法院），409个中级人民法院，3117个基层人民法院。全国共有法官19万余人，其中高级人民法院共有0.7万人，中级人民法院共有3.6万人，基层人民法

28、院共有14.6万人。女法官占24.81。问题分析：随着业务的发展和信息化建设步伐的加快，最高人民法院信息化网络的IT应用系统实现了数据的集中（包括办公OA、内部邮件、对外发布的web站点、专网内的业务系统等），现在所有的共享数据库放到最高人民法院的数据中心，以供专网内各个分支机构访问，同时对外发布的网站服务器数量也由原来的一台，变为现在的数台，以满足多台服务器冗余实现稳定性访问，因此最高人民法院需要解决多台服务器集群后的负载均衡的问题。深信服解决之道：原最高法对外门户支持仅为1台服务器，随着最高法对外业务的扩容，服务器压力随之增大，稳定性也受到挑战。为提升对外门户的最大可访问量，减少单点故障带

29、来的稳定性风险，本次方案将对外门户网站服务器扩容至两台，同时采用负载均衡服务器做性能分担。深信服AD设备单臂部署，采用轮询算法使得服务器平均分担负载。同时通过深信服AD商业智能分析,管理人员可实时方便的了解访问用户习惯。该门户网站采用统一域名方式访问，不同的用户使用同一个域名时，内网用户直接走最高法同IDC机房的专线从内网访问，外网用户组则通过公网直接访问。应用效果：1、服务器负载均衡深信服AD实现网络中多台服务器的负载均衡。AD可以根据相应的服务器负载均衡算法来实现快速访问的智能引导，当用户请求到深信服AD设备的时候，根据预先设定好负载策略能够合理的将每个连接快速的分配最合适的服务器，提升服务器的利用率，保证用户访问的快速性和稳定性。深信服AD的健康检查机制实现对服务器健康状况的实时监控，能够实时的发现出现故障的服务器，同时能够将用户的下一次连接情况平