负载均衡解决方案.docx

1、负载均衡解决方案负载均衡实现方案负载均衡是 OA 系统多应用和集群部署必不可少组件。作为多应用和集群部署前端，负载均衡负责将用户请求分发到后端各个OA应用上，并将OA 应用响应返回给用户。后端 OA 应用可以是独立多应用部署，也可以是集群部署。两者间区别在于集群部署可以实现会话复制，即用户会话可以在集群中应用间进行复制，其好处在于当用户当前访问应用宕机时，由于用户会话会被复制到另一正常应用上，因此用户访问将不会受到影响，不需要重新登录 OA 系统，而独立多应用部署没有会话复制功能。负载均衡为 OA 系统提供了高性能、高可靠性和可扩展能力。高性能，负载均衡可以将用户访问请求均衡分配到各个 OA

2、应用上，从而避免单一应用负载过高，影响此应用访问体验；高可靠性，负载均衡可以探测各个 OA 应用运行状况，自动将出现问题 OA 应用退出负载，避免用户继续访问此应用；可扩展性，通过扩展负载均衡后 OA 应用数量，从而让 OA 系统负担更多用户并发访问。实现负载均衡有多种方法，对于 OA 系统常见方法有以下三种：一、基于 JSP 页面跳转将一个 OA 应用做为主应用，用户统一访问此应用，由此应用上特定 JSP 页面按轮询方式将用户平均分配到其他各个应用上。此方法优点在于实现简单，且没有成本不需要额外设备和软件。此方法缺点在于不能提供高可靠性，当其中一个应用出现问题时，主应用仍然会将用户分配到此应

3、用上，只有用户重新访问主应用，主应用才会将用户分配到另外一个应用上。二、基于反向代理软件此方法通过反向代理软件实现后端各个 OA 应用间负载均衡。1、实现方式用户通过反向代理软件提供 IP 地址和端口访问 OA 系统。过程如下：1）用户将访问请求发送到反向代理软件；2）反向代理软件根据请求中特定标识（客户端 ip 地址或cookie 标记）将用户请求转发给特定后端 OA 应用由于 OA 系统是基于用户，在用户访问过程中始终保持用户会话，因此需要反向代理软件具有会话保持能力始终将特定用户请求路由到后端同一个 OA 应用；3）后端应用将响应返回给反向代理软件；4）反向代理软件将响应转发给用户。2、

4、方案优势2.1、功能较完备 反向代理软件可以实现硬件负载均衡大多数功能，如基于轮询负载均衡方案、后端服务健康监控、基于 IP HASH 或 COOKIE INSERT 会话保持策略等。2.2、成本较低 在用户并发和稳定性要求不高环境下，反向代理软件可以实现硬件负载均衡大多数功能，而投入成本大大低于硬件负载均衡设备。其只需要投资一台代理服务器，配置仅需要 8 CPU，8GB 内存即可，而现在流行反向代理软件多是免费。3、方案缺点3.1、性能和可靠性不高 反向代理软件可靠性依赖于其运行服务器和操作系统可靠性。一般来说，代理服务器选用 X86 架构服务器，操作系统为 LINUX，其可靠性要低于采用专

5、用硬件和内嵌系统硬件负载均衡设备。 相对于硬件负载均衡设备，反向代理软件所运行服务器和操作系统没有针对其进行专门优化，使其没有办法充分利用所有硬件和系统资源，因此在大并发环境会存在性能瓶颈。3.2、日常维护繁琐 相对于硬件负载均衡设备，绝大多数反向代理软件不包含或仅包含简单管理控制台和运行日志。在日常维护中，管理员不能直观观察到反向代理软件运行状态，代理软件所有配置修改只能通过修改配置文件实现，并需要重启代理软件才可以生效。3.3、有限健康检查 反向代理软件只能通过检查后端应用 TCP 端口来判断应用是否正常运行。但是，OA 应用在运行过程中常常会遇到 TCP 端口可访问，页面无法打开或打开出

6、错情况。在这种情况下，反向代理软件仍然会将用户请求路由到出现问题应用上，从而导致用户访问出错。三、采用负载均衡硬件设备此方法通过硬件负载均衡设备来实现多个 OA 应用之间负载均衡。1、实现方式F5 BIG/IP利用定义在其上面虚拟IP地址（VIP）来为用户一个或多个应用提供服务。因此，它能够为大量基于TCP/IP网络应用提供服务器负载均衡服务。F5 BIG/IP连续地对目标服务器进行L4到L7合理性检查，当用户通过VIP请求目标服务器服务时，F5 BIG/IP根椐目标服务器之间性能和网络健康情况，选择性能最佳服务器响应用户请求。下图描述了一个负载平衡发生流程： 1). 客户发出服务请求到VIP

7、2). F5 BIG/IP接收到请求，将数据包中目IP地址改为选中后台服务器IP地址，然后将数据包发出到后台选定应用3). 后台服务器收到后，将应答包按照其路由发回到F5 BIG/IP4). F5 BIG/IP收到应答包后将其中源地址改回成VIP地址，发回客户端，由此就完成了一个标准服务器负载平衡流程。对于所有应用，可以在F5 BIG/IP上配置Virtual Server实现负载均衡，同时F5 BIG/IP可持续检查服务器健康状态，一旦发现故障服务器，则将其从负载均衡组中摘除。2、方案优势2.1、避免“不平衡”现象BIG-IP利用Virtual Server虚拟服务器（VS由IP地址和TCP

8、/UDP应用端口组成）来为用户一个或多个目标服务器（称为Node：目标服务器IP地址和TCP/UDP应用端口组成，它可以是私网地址）提供服务。因此，它能够为大量基于TCP/IP网络应用提供服务器负载均衡服务。根据服务类型不同分别定义服务器群组，可以根据不同服务端口将流量导向到相应服务器。BIG-IP连续地对目标服务器进行L4到L7合理性检查，当用户通过VIP请求目标服务器服务时，BIG-IP根椐目标服务器之间性能和网络健康情况，选择性能最佳服务器响应用户请求。如果能够充分利用所有服务器资源，将所有流量均衡分配到各个服务器，我们就可以有效地避免“不平衡”现象发生。2.2、服务器健康监控和检查服务

9、器 (Node) - Ping (ICMP)BIGIP可以定期通过ICMP包对后台服务器IP地址进行检测，如果在设定时间内能收到该地址ICMP回应，则认为该服务器能提供服务服务 (Port) - ConnectBIGIP可以定期通过TCP包对后台服务器服务端口进行检测，如果在设定时间内能收到该服务器端口回应，则认为该服务器能提供服务扩展内容查证(ECV: Extended Content Verification)-ECVECV是一种非常复杂服务检查，主要用于确认应用程序能否对请求返回对应数据。如果一个应用对该服务检查作出响应并返回对应数据，则BIG/IP控制器将该服务器标识为工作良好。如果服

10、务器不能返回相应数据，则将该服务器标识为宕机。宕机一旦修复，BIG/IP就会自动查证应用已能对客户请求作出正确响应并恢复向该服务器传送。该功能使BIG/IP可以将保护延伸到后端应用如Web内容及数据库。BIG/ipECV功能允许您向Web服务器、防火墙、缓存服务器、代理服务器和其它透明设备发送查询，然后检查返回响应。这将有助于确认您为客户提供内容正是其所需要。扩展应用查证(EAV: Extended Application Verification)EAV是另一种服务检查，用于确认运行在某个服务器上应用能否对客户请求作出响应。为完成这种检查，BIG/IP控制器使用一个被称作外部服务检查者客户程

11、序，该程序为BIG/IP提供完全客户化服务检查功能，但它位于BIG/IP控制器外部。例如，该外部服务检查者可以查证一个Internet或Intranet上从后台数据库中取出数据并在HTML网页上显示应用能否正常工作。EAV是BIG/IP提供非常独特功能，它提供管理者将BIG/IP客户化后访问各种各样应用能力，该功能使BIG/IP在提供标准可用性查证之外能获得服务器、应用及内容可用性等最重要反馈。该功能对于电子商务和其它应用至关重要，它用于从客户角度测试您站点。例如，您可以模拟客户完成交易所需所有步骤连接到站点、从目录中选择项目以及验证交易使用信用卡。一旦BIG/ip掌握了该可用性信息，即可利用

12、负载平衡使资源达到最高可用性。BIG/ip已经为测试Internet服务健康情况和状态，预定义扩展应用验证(EAV)，它有二种用户界面：浏览器和CLI配置。BIG/IP预定义应用检查：、SMTP、POP3和MSSQL。2.3、UIEiRuelsBIGIP利用UIE+iRules技术，可以将TCP/UDP数据包打开，并搜索其中特征数据，之后根据搜索到特征数据作相应规则处理。因此可以根据用户访问内容不同将流量导向到相应服务器，实现7层负载均衡。例如：根据用户访问请求URL将流量导向到相应服务器。BIG-IP提供了一套有针对性方法来减少服务器压力，降低互联网延迟和客户机连接瓶颈对其应用访问性能所造成

13、影响。通过综合采用多种应用优化手段以后，应用访问性能可以得到显著提高。与此同时，由于服务器性能提高，还可以达到减少服务器数量，减少带宽占用从而节省投资目。2.4、连接优化BIGIP通过Oneconnect技术，将所有客户端TCP连接转移至BIGIP进行处理；而BIGIP与服务器之间仅建立少量、持续TCP连接。使Web服务器从处理大量并发TCP请求和TCP连接建立/卸载负担中解脱出来，同时当BIGIP收到用户请求后才发送到服务器，服务器可免于受到客户端和网络异常影响。BIGIP还会缓存所有服务器响应数据包，服务器以LAN速度发送数据到 BIGIP，服务器不会受到慢速客户端连接牵累。服务器大量CP

14、U资源被释放来提供数据，而不是管理连接。BIGIP通过控制容量需求和访问分析优化了服务性能和带宽。企业也因为增加了更多计算资源，减少了出口带宽需求而降低服务器和带宽投资，并且减少服务响应延迟和运营成本。2.5、HTTP压缩BIG-IP提供业内最具扩展性，最智能也最灵活压缩解决方案。BIG-IP 系统通过从服务器中不对称卸载 HTTP 压缩，降低了服务器开销，并通过实现服务器整合，将服务器总体拥有成本降低了高达 65%。BIG-IP 系统充分利用现有浏览器解压缩能力，无需对客户机进行任何修改，亦无需下载任何可能带来入侵威胁软件。BIG-IP 智能压缩采用已申请专利方法来测量客户连接延迟，这使带宽

15、使用率降低了 60-80%，同时将用户响应时间提高了两倍以上。BIG-IP 是业内首款为企业提供可扩展式压缩解决方案，具有通过优化硬件及其自适应压缩卸载 (Adaptive Compression Offload) 压缩 web 流量可选功能。BIG-IP 系统智能压缩功能为企业提供了一种针对目标用户进行压缩方式。压缩流量不一定要以带宽利用率降低为代价。真正挑战在于把握如何最有效定位，从而使用户获得最大优势。例如，由于拨号用户延迟较高，所以，对其进行压缩可使这部分用户获得最大优势。而由于宽带用户接收窗口尺寸较大，因此，他们因此获得优势则微乎其微，这是因为，宽带用户现在需要等待更长时间来接收数据

16、，这将导致响应时间变慢，因此，压缩优势被抵消。BIG-IP 采用已申请专利技术来动态检测客户连接延迟。BIG-IP 系统能够监控 TCP RTT （往返时间），以动态计算用户延迟，从而使 BIG-IP 能更专注于将流量压缩并传送给最需要它们用户。2.6、负载均衡和应用交换功能BIGIP是一台对流量和内容进行管理分配设备。它提供12种灵活算法将数据流有效地转发到它所连接应用。而面对用户，只是一台虚拟服务器。用户此时只须记住一台服务器，即虚拟服务器。但他们数据流却被BIGIP灵活地均衡到所有服务器。这12种算法包括：轮询（Round Robin）：顺序循环将请求一次顺序循环地连接每个服务器。当其中

17、某个服务器发生第二到第7层故障，BIG/IP就把其从顺序循环队列中拿出，不参加下一次轮询，直到其恢复正常。比率（Ratio）：给每个服务器分配一个加权值为比例，根椐这个比例，把用户请求分配到每个服务器。当其中某个服务器发生第二到第7层故障，BIG/IP就把其从服务器队列中拿出，不参加下一次用户请求分配，直到其恢复正常。优先权（Priority）：给所有服务器分组，给每个组定义优先权，BIG/IP用户请求，分配给优先级最高服务器组（在同一组内，采用轮询或比率算法，分配用户请求）；当最高优先级中所有服务器出现故障，BIG/IP才将请求送给次优先级服务器组。这种方式，实际为用户提供一种热备份方式。最

18、少连接方式（Least Connection）：传递新连接给那些进行最少连接处理服务器。当其中某个服务器发生第二到第7层故障，BIG/IP就把其从服务器队列中拿出，不参加下一次用户请求分配，直到其恢复正常。最快模式（Fastest）：传递连接给那些响应最快服务器。当其中某个服务器发生第二到第7层故障，BIG/IP就把其从服务器队列中拿出，不参加下一次用户请求分配，直到其恢复正常。观察模式（Observed）：连接数目和响应时间以这两项最佳平衡为依据为新请求选择服务器。当其中某个服务器发生第二到第7层故障，BIG/IP就把其从服务器队列中拿出，不参加下一次用户请求分配，直到其恢复正常。预测模式（

19、Predictive）：BIG/IP利用收集到服务器当前性能指标，进行预测分析，选择一台服务器在下一个时间片内，其性能将达到最佳服务器相应用户请求。(被bigip进行检测)动态性能分配（Dynamic Ratio-APM):BIG/IP收集到应用程序和应用服务器各项性能参数，动态调整流量分配。动态服务器补充（Dynamic Server Act.):当主服务器群中因故障导致数量减少时，动态地将备份服务器补充至主服务器群。服务质量(QoS)：按不同优先级对数据流进行分配。服务类型(ToS)：按不同服务类型（在Type of Field中标识）对数据流进行分配。规则模式：针对不同数据流设置导向规则

20、，用户可自行编辑流量分配规则，BIG/IP利用这些规则对通过数据流实施导向控制。3、方案缺点3.1、成本较高 硬件负载均衡设备一次性投入成本较高，以 F5 BIG/IP 为例价格在 10 30 万。但是硬件负载均衡除了可以提供给 OA 系统使用，还可以提供给其他业务和网站系统使用。四、总结通过以上分析我们不难看出三种方式各有优缺点，需要根据用户实际情况从系统可用性要求、建设成本、维护能力等多个方面综合考虑。方式JSP 页面跳转反向代理软件负载均衡硬件负载均衡算法单一单一多种健康检查无有有性能不存在性能问题一般很好维护简单复杂简单其他功能无无还提供加速、优化、安全等多种服务。成本无增加一台代理服务器一次性购买一台设备由于吉林大学用户规模很大，我们建议采用硬件负载均衡设备实现负载均衡，如F5 BIG/IP。硬件负载均衡设备可以很好满足大并发要求，而且可靠性高，并能提供内容缓冲、高速缓存、SSL加速、HTTP压缩、连接加速、安全认证等多项功能，如下图。