数据中心基础知识.docx

1、数据中心基础知识数据中心在逻辑上包括硬件和软件。硬件是指数据中心的基础设施，包括支撑系统和计算机设备等；软件是指数据中心所安装的程序和提供的信息服务。一个完整的数据中心在其建筑之中，包括支撑系统、计算机设备和信息服务这三个逻辑部分。支撑系统主要是电力设备、环境调节设备和监控设备，这些系统是保证上层计算机设备正常、安全运转的必要条件。数据中心的计算机设备包括服务器、存储设备和网络设备，这些设备运行着上层的信息服务。信息服务的质量依赖于底层支撑系统和计算机设备的服务器能力。只有综合考虑各种因素、整体统筹兼顾，才能保证数据中心的良好稳定运行。服务器作为数据中心信息服务的主要载体，同时与存储设备和网络

2、设备相连，是数据中心的核心组件。当前数据中心的服务器按形态可分为塔式服务器、机架式服务器和刀片式服务器这三类。从网络设计上看，塔式服务器与机架式服务器的部署模式相似，且受数据中心机房空间等因素的限制，机架式服务器和刀片服务器已成为数据中心主要的服务器形态，以下针对后两种形态的服务器做分析探讨。服务器形态差异塔式服务器塔式服务器的外形与个人PC主机相似。与普通PC相比，塔式服务器的主板可扩展性强，接口和插槽比普通PC多，机箱尺寸比普通PC大。塔式服务器成本低，可满足入门级服务器的需求。但塔式服务器占用的机架空间大，不便于挪动，因此在规模较大的数据中心已很少部署这种形态的服务器。图1. 塔式服务器

3、机架式服务器机架式服务器是一种外观按照统一标准设计、配合机柜使用的服务器，如图2所示。由于采用统一的机架式结构，服务器可以方便的与同一机柜或位于列头柜内的以太网交换机连接，简化了机房的布线和管理。机架式服务器的尺寸有统一的标准：服务器的宽度为19英寸，高度以U为单位，机架式服务器的高度在1U到7U之间。相比塔式服务器，机架式服务器的优点是占用机柜空间小，单位空间可放置更多服务器，便于机房内统一管理，且服务器移动方便。机架式服务器对机房的制冷要求较高，对于风冷方式的数据中心，在安装服务器时，要求冷空气从服务器机柜前的镂空地板送入机柜，服务器从前面板将冷空气吸入，冷气流经服务器内部转换成热空气后，

4、从服务器后面板流出。热空气沿循环通道重新进入制冷装置。图2. 机架式服务器由于服务器内部空间限制，扩充性受限制，例如1U的服务器通常只有1到2个PCI扩充槽。因此这种服务器多用于服务器数量较多，且机房有比较适宜的制冷装置的大型数据中心。刀片服务器刀片服务器具有集成化、高密化的特点，其主体结构是一个大型的具有标准机箱尺寸的机箱（又称为“刀箱”），刀箱内部可插上多块 “服务器刀片”单元，其中每一块服务器刀片就是一台独立的服务器。每个服务器刀片可以通过本地硬盘运行自己的操作系统，相互之间没有关联。多个服务器刀片也可通过集群软件组成一个服务器集群。在集群模式下，所有服务器刀片通过高速网络环境互联，服务

5、于相同的用户群。除服务器刀片外，刀箱内还可根据需要安装具有不同功能的“刀片模块”，如：网络刀片、存储刀片、管理刀片等。其中网络刀片（又称为刀片交换机）的功能相当于以太网交换机，刀片交换机通常以1GE或10GE端口与刀片服务器连接，并提供10GE端口与上行交换机连接；存储刀片可以被视为一个硬盘模块，通过背板总线或者硬盘接口线向服务器刀片提供存储功能；管理刀片通过服务器刀片上集成的监控管理芯片进行刀片服务器的集中监控和管理。图3. 刀片服务器刀片服务器一般应用在大型数据中心或计算密集的领域，如电信、金融行业和互联网数据中心等。对企业和互联网服务提供商来说，随着业务的发展和对服务器需求的增长，刀片服

6、务器在节约空间、便于管理、可扩展性方面相对与机架式服务器有显著的优势。但刀片服务器由于计算密度成倍提高，对单机柜的供电功率以及制冷方式提成更高要求。数据中心服务器网络接入方式概述图4. 数据中心服务器区分层网络模型如图4所示，在典型的数据中心服务器区分层网络模型中，网络核心层用于连接各服务器区的汇聚层设备，实现服务器区之间报文的高速转发。汇聚层设备做为服务器的网关，是服务器区的网络流量汇集点，是部署安全设备和应用优化设备的最佳位置。数据中心接入层为服务器提供高可用的二层网络接入，并通过VLAN划分实现接入服务器的隔离。接入层应根据服务器数量规划接入交换机的端口数，并考虑未来的扩展能力。接入层应

7、按照服务器物理形态进行统一规划，相同形态的服务器对于网络接入方式以及机柜布线的要求基本相同，因此将相同形态的服务器集中摆放，并接入到相同的接入层交换机上可提高服务器机柜利用率和机房的管理效率。无论对于机架式服务器还是刀片式服务器而言，高可用性与高扩展性都是数据中心网络接入层网络设计的基本原则。然而，机架式服务器与刀片式服务器在网络可管理性方面却有不同的要求。在刀片服务器的刀箱中，通常配有管理模块（或管理刀片），通过管理模块提供的WEB界面，可以实现对刀箱中的服务器刀片和刀片交换机的统一管理。这种管理统一性虽然简化了整个系统的管理，但会导致网络管理边界与服务器管理边界的模糊问题。由于数据中心网络

8、管理员不具备刀片服务器的管理权限，不能实现对刀片交换机的管理；而服务器管理员因为网络技术能力的限制，又不能很好的完成服务器二层网络接入的相关配置工作，由此易引起服务器接入的网络故障。笔者曾在某银行数据中心项目的实施过程中遇到过类似问题：在当时条件下，银行网管人员为保证服务器的二层可扩展性与高可用性，设计中在刀片交换机与数据中心汇聚交换机间使能生成树协议，但由于服务器管理员在配置刀片交换机时，采用了错误了生成树协议参数，致使网络中断，由此影响了整个业务系统的上线时间。因此，在规划刀片服务器接入网络时，明确网络与服务器管理边界，提高网络可管理性，也是一个重要的设计原则。*服务器接入层交换机按照是否

9、采用N:1虚拟化技术（如H3C IRF技术）可分为两大类方案。从数据中心网络的高可用性、可扩展性以及易管理性出发，不同的服务器形态（机架式、刀片）有不同的推荐组网方案。以下将就两大类方案对于机架式服务器和刀片服务器的适用性进行分析探讨。未采用虚拟技术的服务器接入方案虚拟化技术的网络拓扑方案有四种，分别为：倒U形方案、U形方案、矩形方案和三角形方案。为了便于比较各种组网拓扑，这里假设接入交换机（或刀箱内的刀片交换机）采用两个万兆以太网接口与上行以太网交换机连接，服务器通过双网卡分别接入到两台接入交换机（或刀片交换机）上。如表1所示为各方案的适用性分析。二层无环U形组网图5. 二层无环U形组网方案

10、优点：网络络接入层不存在二层环路，接入层交换机可以不启用生成树协议，因此网络的配置管理简单。方案缺点：从接入交换机到汇聚交换机缺少二层冗余路径，方案不具备高可用性。；服务器的接入VLAN不能跨汇聚层，服务器不能实现跨交换机的二层互联，网络的二层扩展能力有限。服务器网关指向汇聚交换上VRRP的VIP地址，但VRRP心跳报文的传输路径必须经过两台接入交换机，当两台接入层交换机之间的链路发生中断时，两台汇聚交换机都变为VRRP主设备，网络进入三层不稳定状态 。机架式服务器适用性分析：网络接入不具备高可用性，且二层扩展能力有限，因此不建议在机架式服务器接入时采用这种组网。刀片服务器适用性分析：网络接入

11、不具备高可用性，二层扩展能力有限，不建议在刀片服务器接入时采用这种组网。二层无环倒U形组网图6. 二层无环倒U形组网方案优点：网络接入层不存在二层环路，接入交换机不启用生成树协议，网络配置管理简单。服务器的接入VLAN可以跨汇聚交换机，因此能实现VLAN跨不同的接入层交换机，服务器可实现跨接入交换机的二层互联，服务器接入扩展性好。接入交换机上行汇聚交换机采用捆绑链路，因此上行链路可靠性高，链路的带宽利用率高；方案缺点：当汇聚交换机与接入交换机之间的链路中断时，服务器不能感知这种故障，服务器上行流量仍然发送到出现故障的接入交换机，从而形成了“流量黑洞”；机架式服务器适用性分析：由于存在“流量黑洞

12、”的问题，因此不建议在机架式服务器接入时采用这种组网。刀片服务器适用性分析：刀片交换机可通过上行捆绑链路的状态监测机制解决“流量黑洞”问题：刀片交换机在正常运行状态时，周期性的对上行汇聚层交换机的接口进行状态检查，当发现上行接口故障时，该刀片交换机将shutdown其上所有端口。此时，接入到该刀片交换机上的服务器将把流量切换到与另一个刀片交换机相连的网卡上，从而避免了“流量黑洞”。这种方案配置管理简单，如刀片交换机具备防 “流量黑洞”的特性，则适用于刀片交换机的网络接入。二层环路矩形组网图7. 二层环路矩形组网方案优点：服务器接入VLAN可以跨汇聚交换机，能实现VLAN跨不同的接入交换机，服务

13、器可实现跨接入交换机的二层互联，服务器接入扩展性好。接入交换机到汇聚交换机间有冗余链路，网络接入层具备高可用性。方案缺点：正常情况时，两台接入交换机之间的链路被生成树协议阻塞。当某台接入交换机上行链路故障时，交换机之间的链路变为转发状态。此时，发生故障的交换机一侧的所有服务器上行流量，将经过另一侧交换机上行到汇聚交换机，该交换机的上行收敛比增加一倍，导致网络发生拥塞，网络转发性能降低。机架式服务器适用性分析：服务器接入具备高可用性和高可扩展性。当一侧接入交换机发生故障时，另一侧交换机拥塞加重，网络转发性能降低，因此不建议在机架式服务器接入时采用这种组网。刀片服务器适用性分析：刀片交换机模块需要

14、配置生成树协议，不利于刀片系统的管理维护。且同样存在一侧刀片交换机故障时，网络转发性能下降的问题，因此不建议在刀片服务器接入时采用这种组网。二层环路三角形组网图8. 二层环路三角形组网方案优点：服务器接入VLAN可以跨汇聚交换机，能实现VLAN跨不同的接入交换机，服务器可实现跨接入交换机的二层互联，服务器接入扩展性好。接入交换机到汇聚交换机有冗余链路，接入网络具备高可用性，且通过MSTP可实现上行流量分担。方案缺点：网络配置管理较复杂，为提高二层网络的高可用性与安全性，在接入交换机与汇聚交换机上使能“BPDU保护”、“环路保护”、“根保护”等特性；机架式服务器适用性分析：服务器接入网络具备高可

15、用性、高可扩展性，建议在机架式服务器接入时采用这种组网。刀片服务器适用性分析：刀片交换机上的配置复杂，可管理性较差，不建议在刀片服务器接入时采用这种组网。刀片服务器pass-through组网方式分析刀片服务器内可集成刀片交换机，也可以通过部署pass-through模块，将服务器的网络接入延伸到刀箱外的网络上。如图10所示，采用了pass-through模块的刀片服务器在网络接入层设计上与机架式服务器的关注点相同，重点是保证服务器的高可用接入以及服务器的接入可扩展性，因此建议采用具备接入高可用性和高可扩展性的“二层环路三角形组网”。图9. 刀片服务器pass-through组网采用虚拟化技术

16、的服务器接入方案对于接入层而言，传统架构为保证网络高可用性通常采用MSTP+VRRP，这种组网需要在接入交换机与汇聚交换机间运行MSTP协议，配置和管理较复杂。当接入交换机和汇聚交换机都采用网络虚拟化技术时，则可将每两台接入交换机和两台汇聚交换机分别组合成两台虚拟逻辑交换机，在逻辑接入交换机与逻辑汇聚交换机间通过捆绑链路连接，如图10所示。图10. 采用虚拟化技术的接入方式方案优点：高可用性网络。虚拟化技术通过成员设备的N:1备份、跨设备链路聚合实现了服务器接入网络高可用性设计。高可扩展性网络。服务器接入VLAN可跨汇聚交换机，且不存在二层环路问题，实现了大二层服务器接入网络，使数据中心服务器

17、接入层具备很强的扩展能力；网络配置管理简单。从逻辑上看，一个堆叠组就是一台设备，因此接入交换机和汇聚交换机间不存在二层环路，可以避免MSTP的配置管理，简化网络设计。服务器适用性分析：具备服务器接入高可用性、高可扩展性，易管理性，建议在机架式服务器以及刀片式服务器接入时，都采用基于交换机N:1虚拟化技术（如H3C IRF技术）的组网拓扑。服务器机柜布线方式的差异数据中心机房平面布局通常采用矩形结构，为了保证制冷效果，通常将 10 至 20 个机柜背靠背并排放置成一行，形成一对机柜组（又称为一个POD），POD中的机柜都采用前后通风模式，冷空气从机柜前面板的吸入并从后部排出，由此在机柜背靠背摆放

18、的POD中间形成 “热通道”，相邻的两个POD之间形成“冷通道”。热通道正对CRAC（机房空调），热空气沿热通道流回CRAC，再开始新一次循环。图11. 数据中心机房平面布局如图11所示，每个POD由服务器机柜和网络机柜组成，其中服务器机柜占多数。由于服务器的形态差异（机架式服务器、刀片服务器），POD中服务器机柜和网络机柜的布线方式也不存在差异。机架式服务器的布线方式交换机EOR（End of Row）布线方式采用交换机EOR布线方式时，每个POD中的两排机柜的最边端摆放2个网络机柜，POD中所有的服务器机柜安装配线架，配线架上的铜缆延伸到POD最边端网络机柜，网络机柜中安装接入交换机。机架

19、式服务器安装在服务器机柜中，服务器网卡通过跳线（铜缆）连接机柜中的配线架，如图12所示。图12. 机架式服务器EOR布线方式交换机EOR布线方式特点：交换机EOR布线方式最为常见。通常在服务器和接入交换机安装以前，服务器机柜到网络机柜的布线施工已经完成，设备（服务器/交换机）安装和跳线工作都在服务器机柜内和网络机柜内进行。如果每台机架式服务器的功率为500W，且每个服务器机柜的电源输出功率按4KW或6KW计算，则一个42U高度的服务器机柜能安装8-12台机架式服务器。EOR布线方式的缺点：从服务器机柜到网络机柜的铜缆多（约有20-40根铜缆），且距网络机柜越远的服务器机柜的铜缆，在机房中的布线

20、距离越长，由此导致线缆管理维护工作量大、灵活性差。交换机MOR（Middle of Row）布线是对EOR布线方式的改进。MOR方式的网络机柜部署在POD的两排机柜的中部，由此可以减少从服务器机柜到网络机柜的线缆距离，简化线缆管理维护工作。交换机TOR（Top of Rack）布线方式交换机TOR布线方式是对EOR/MOR方式的扩展，采用TOR布线时，POD中每个服务器机柜的上端部署1-2台两台接入交换机，机架式服务器通过跳线接入到机柜内的交换机上，交换机上行端口通过铜缆或光线接入到EOR/MOR的网络机柜中的汇聚交换上。如图13所示图13. 机架式服务器TOR布线方式TOR布线方式特点：TO

21、R布线方式简化了服务器机柜与网络机柜间的布线，从每个服务器机柜到EOR/MOR的网络机柜的光纤或铜缆数量较少（4-6根）。机柜中服务器的密度高。对于标准的19英寸宽，42U高的机柜，如果采用交换机TOR布线方式，则每个机柜可部署15-30台1U高度的机架式服务器（具体数量需要考虑单台服务器的功耗和机柜的电源输出功率）。TOR布线的缺点：每个服务器机柜受电源输出功率限制，可部署的服务器数量有限，由此导致机柜内交换机的接入端口利用率不足。在几个服务器机柜间共用1-2台接入交换机，可解决交换机端口利用率不足的问题，但这种方式增加了线缆管理工作量。从网络设计考虑，TOR布线方式的每台接入交换机上的VL

22、AN量不会很多，在网络规划的时候也要尽量避免使一个VLAN通过汇聚交换机跨多台接入交换机，因此采用TOR布线方式的网络拓扑中，每个VLAN的范围不会太大，包含的端口数量不会太多。但对于EOR布线方式来说，接入交换机的端口密度高，在网路最初设计时，就可能存在包含较多端口数的VLAN。TOR方式的接入交换机数量多，EOR方式的接入交换机数量少，所以TOR方式的网络设备管理维护工作量大。刀片服务器的布线方式集成刀片交换机的刀片服务器在进行机柜安装时，不需要考虑机柜内从服务器到接入交换机/或配线架的跳线，只需考虑刀片交换机上行端口的配线方式即可。而机架式服务器则需要分别对每台服务器进行跳线连接。例如，

23、一个42U的服务器机柜安装10台1RU机架式服务器，1台接入交换机，并采用TOR布线方式时，在机柜后面将看到22根电源线（服务器和交换机都配置冗余电源）、10根KVM线、至少30根双绞线（每台服务器两个业务网卡和一个管理网卡），2根光纤（交换机上行端口），这还不包括连接外部存储和其他设备的线缆，显的非常凌乱。而对于一台配置了10个服务器模块和2个交换机模块的刀片服务器来说，则只需2根电源线，1根KVM线，4根光纤。因此刀片服务器在机房布线管理上比机架式服务器具有明显的优势。集成交换机模块的刀片服务器主要采用EOR/MOR布线方式，但这种EOR布线方式与机架式服务器TOR布线方式的特点基本相同，

24、如图14所示。服务器在服务器机柜内完成网络接入，从服务器机柜到EOR/MOR网络机柜的电缆主要是刀片交换机上行汇聚交换机的光线，而且数量比较少。但刀片服务器的计算单元的密度比机架式服务器更高，所以对单个机柜的电源输出功率以及机房制冷环境的要求也更高。图14. 集成刀片交换机的布线方式采用pass-through模块的刀片服务器的机柜布线方式可分为EOR/MOR和TOR两种，如图15所示，两种方式的特点与机架式服务器的相应方式相同，此处不再赘述。图15. 刀片服务器pass-through的布线方式结束语机架式服务器与刀片式服务器都是数据中心最常部署的服务器形态。按照数据中心网络设计的高可用性、

25、可扩展性和易管理性要求，如果接入/汇聚交换机未采用虚拟化技术，则机架式服务器建议采用“二层环路三角形组网”，刀片交换机建议采用“二层无环倒U形组网”；如果接入/汇聚交换机采用了虚拟化技术，则无论对于机架式服务器还是刀片式服务器，全虚拟化组网都是最优的部署方案。机架式服务器与刀片服务器在机柜布线方式上存在较大的差异，由于刀片服务器内集成了网络刀片、管理刀片等，从而简化了服务器机柜内的布线方式，因此刀片服务器在机柜布线管理上比机架式服务器具有明显的优势。但也应该看到，由于刀片服务器的单位计算密度比机架式服务器成倍提高，所以刀片服务器对单个服务器机柜的电源输出功率以及机房制冷环境也提出更高的要求。总之，机架式服务器与刀片式服务器各有特点，数据中心用户需要根据自己的网络部署要求和机房环境要求等因素进行分析选择。