超融合云计算方案.docx
《超融合云计算方案.docx》由会员分享,可在线阅读,更多相关《超融合云计算方案.docx(27页珍藏版)》请在冰豆网上搜索。
超融合云计算方案
超融合云计算方案
XXXX
超融合云数据中心方案建议书
2016-11-15
一.总则
一.1项目描述
XX公司IT基础服务承载着集团多个业务系统,随着集团业务系统的增多、数据量的增大、数据安全性、对整体IT服务要求越来越高。
目前传统数据孤岛模式IT架构难以满足业务高效运转,随时有业务中断风险,数据是企业核心财富需要建立长期安全保护,数据中心异构环境期望合并统一管理。
现有数据中心传统的IT架构面临以下几个方面的问题:
1.业务应用部署建设缓慢。
业务应用上线部署流程长,审批复杂,效率低,难以适应业务快速部署的要求,建设及扩容周期过长。
2.资源利用率低。
各业务系统或部门都各自占用服务器和存储资源,服务器独享,存储资源分割,无法弹性调度和灵活配置,硬件资源只有5%到15%被利用,一方面造成了成本居高不下,另一方面也造成了大量的资源浪费。
3.异构环境难以整合。
IT信息化建设是一个长期、持续的工程,在整个建设过程中,由于各种原因采购、获取到不同技术、不同厂商、不同型号的硬件资源难以避免,在传统模式下,这些资源之间缺乏良好的互通机制,缺乏信息共享与集成,对进一步提升信息化服务水平和资源利用效率都造成了阻碍。
4.运维难度大。
由于资源难以弹性调度,使得各业务系统的维护难度越来越大,无论是部署新业务系统,还是进行现有业务系统的升级和迁移,或者进行机房扩容,都存在着运维难度大的问题,稍有不慎便可能造成业务服务中断。
因此,希望通过利用最新的超融合云计算方式来建设新的IT架构,以满足业务的发展需求。
解决传统IT架构诸多弊端,方面的挑战,ZETTAKIT经过对您的业务分析,特出具此建议书,为您的有限投资构建高超融合-云数据中心,实现按需分配、按量计费,从而提高了系统灵活性,提升了资源使用率,减轻了运维复杂度,降低了总体拥有成本。
一.2需求概述
一.2.1业务需求
XXXX需建设私有云数据中心,搭建私有云IT基础架构,支撑公司包含OA、数据库等业务系统,根据对客户IT系统需求分析,主要存在以下需求:
1.满足现有OA、web、数据库等业务系统及未来3-5年的业务增长需求,能够随着业务增长实现系统横向扩展能力。
2.存储资源需求为100TB,主要是以图片为主的非结构化数据,部分数据库结构化数据。
3.计算资源需求内存为1TB,满足大概70-80个虚拟机运行。
4.建设私有云平台,全面实现计算、网络、存储资源池,统一进行资源的管理和运维,针对应用系统划分不同资源池,满足不同业务的资源需求。
5.基于云计算架构,保障业务高可用。
6.后期可基于云平台升级实现异地容灾备份、双活容灾解决方案。
一.2.2现有架构挑战
1.业务连续性压力:
基于物理架构数据中心,无论是服务器还是存储,都存在单点故障风险,更没有自动恢复容错机制保护,不能保障客户业务运行的可持续性、高效性,尤其是在集团各种新业务需求更迭的背景下,要确保企业业务的安全可持续运营,数据中心也面临着重大挑战。
2.高可用性压力:
传统数据中心的服务器虽然很多,但是利用率非常低,传统数据中心服务器的平均使用率还不足30%。
另外,传统数据中心来说,都无法根据业务部门需要做到快速、灵活、动态调配,因此,来自业务部门的压力以及数据中心本身的可用性压力与日俱增。
3.数据量急速膨胀:
随着信息化应用不断扩大、应用系统的逐步集中,数据量逐步增多,很多业务数据保存周期要长达数年,庞大的数据量和未来增长需求使传统数据中心不能快速灵活提供扩展、动态不中断业务的调配。
很多集团的数据中心场地中已经塞满新增服务器,不断扩大着数据中心规模,但远远不能满足未来需求。
4.管理压力:
集团数据中心臃肿,多种业务、多种设备,不断建立设备差异,业务业务信息孤岛,异构环境,给IT管理成本增加。
数据中心规模增大,也带来了能耗,UPS配备、灭火器、精密空调设备、7x24小时运行、监控服务等,这种数据中心的运行成本非常高。
一.3建设目标
结合用户的需求,建设一个利用最新软硬件技术的云数据中心,希望达到以下建设目标:
Ø建设云计算平台。
根据业务需要自动部署计算、存储、网络资源,以服务的方式提供给最终用户使用,初步实现依托云计算特点的实时基础设施(RTI)的运营模式。
Ø资源全面池化。
将计算、存储、网络资源整合成为可以统一管理、弹性调度、灵活分配的资源池,每个业务系统不再占用独立的物理服务器、存储和网络资源,而是与其他业务系统一起,共享云中的资源,以虚拟机的形式独占其中的一部分逻辑资源。
Ø提供标准化的资源服务。
合理划分计算存储资源,针对各类业务需求提供标准化且可按需调整的环境配置套餐,进行环境的自动化部署和维护,快速提供标准、安全和稳定的资源服务。
统一管理各种存储,并根据存储资源的类别,制定不同级别的存储资源池,从而提供不同服务级别的存储服务。
Ø随需分配和回收资源。
未来新建业务系统或扩容、迁移业务系统,只需要根据需求从资源池中直接获取资源即可快速完成,而不必额外申请购买。
在业务系统生命周期完结后,也可释放资源回到资源池。
这样既提升了业务部署效率,又提升了资源利用率,降低了总体拥有成本。
Ø弹性扩展资源。
云计算平台满足各种应用系统对计算存储资源的需求请求,实现硬件能力对应用的按需分配与快速部署上线,在资源不足时,可在线弹性扩展资源,以满足业务需要,确保服务级别.
Ø满足业务部门快捷访问。
将业务系统及其信息和数据整合到云中,使用者无论属于哪个部门,或身在何处,都可以快速、迅捷地访问自己所需要的信息资源和业务系统,享受云带来的便利。
一.4建设原则
超融合云数据中心建设应用为先导、统一规划,集中管理结合云计算技术,最大化的提高资源的灵活性和利用率,满足应用业务需求扩充与资源部署变更的发展需要。
系统建设须遵循以下设计原则:
Ø统筹兼顾,统一平台。
按照信息化建设的要求,对云平台进行统一规划,结合现有业务需求,在新的统一云平台上重新构筑新的科学有序的信息化管理系统。
Ø充分前瞻,利于拓展。
充分考虑需求的潜在变化,尽可能在系统实现方式上做前瞻处理,同时要预留各种扩展接口,为进一步发展和完善留有余地。
Ø高度可用,稳定可靠。
云平台是一个服务平台,系统出现任何宕机、停机或者响应速度下降都会影响到整体的服务品质。
计算、存储、网络、管理上充分利用冗余、镜像、集群等技术,实现高可靠、高可用、高持续服务能力。
Ø高度开放,资源共享。
云平台建设应充分考虑开放性和兼容性,建立资源共享和监控体系,最大限度实现资源共享,为综合调度和智能化服务创造条件。
Ø操作简便,运维高效。
简化操作流程,降低操作难度,用便捷的流程,实现预期的目标。
Ø经济投入,绿色节能。
充分考虑提高资源综合利用率的方案,减少因为系统瓶颈造成的无效投入,让计算、存储、网络资源协调工作,匹配一致,充分发挥效率。
基于已有硬件环境,实现对现有硬件资源服务器、网络设备进行整合。
二.超融合云计算方案
二.1系统架构设计
二.1.1物理架构
说明
1.考虑到生产环境中网络可靠的重要性,这里网络设备采用双路冗余的方案。
2.ZETTAKIT超融合节点与接入交换机之间可以为10Gb或1Gb线路,这取决于这个云环境所需的外部流量到底有多大。
推荐使用10Gb线路。
3.ZETTAKIT超融合节点之间通信是2*10Gb连接,保障节点之间东西流量畅通。
交换机进行堆叠,即虚拟成一个逻辑的交换机,为active-active。
4.若节点间的互联网络,和上层业务的接入网络都采用万兆,可共用一个物理网络。
二.1.2逻辑架构
1)计算资源模块(zKVM):
在采购方的物理服务器基础上,部署ZETTAKIT超融合的云平台操作系统,这些物理服务器都是基于x86架构的系统,可以出自于不同的生产厂家,例如,国内保有量比较高的IBM、惠普、联想或浪潮的服务器。
2)存储资源模块(zSDS):
在ZETTAKIT超融合系统中,会将全局的硬盘设备通过我们的技术构建成一个GlobalBlockSystem,用户的数据和备份都存放在其中,根据I/O性能与硬盘容量的不同,又可以划分出性能型硬盘与容量型硬盘提供给用户选择使用。
3)网络资源模块(zSDN):
在ZETTAKIT超融合系统中,为保证整个平台的性能,我们强烈建议后端的支撑网络应该规划为万兆(10Gb/s)网络,不仅支持虚拟机之间高速的通信,还要支撑完成多份实时副本的工作。
4)云平台管理系统(zDirector):
通过部署云平台管理系统,将云平台的资源进行统一的管理和调度,以虚机服务的方式呈现给用户,并对所有的资源状态监控和统计。
二.1.3基础网络规划
✓互联交换机:
三层交换机,万兆,支持双活堆叠,建议2台,根据集群规模配置。
✓接入交换机:
二层交换机即可,当然三层也行,千兆或万兆,支持双活堆叠,建议2台,根据集群规模配置。
二.1.4服务器规划
✓配置独立RAID卡
✓双万兆网卡(多模SFP+)
✓硬盘型号、数量可以根据数据量,性能配置
✓网线为OM3标准的LC-LCSFP+多模光纤
✓建议3个节点硬件配置一致
✓至少3个服务器节点,具体节点的数量由需求来决定。
三.详细设计说明
三.1计算(zKVM)
采用ZETTAKITzKVM虚拟化技术对物理服务器实现资源池化,应用系统运行在ZETTAKIT平台虚拟机上,此方案相比于传统物理服务器方案,将大大提高服务器利用率,提高了应用系统的可用性,减少应用系统宕机时间,同时减少应用系统部署时间,简化服务器的管理。
实现资源的高度共享、集中管理以及动态扩展,从而可以提高资源的利用率,满足上层业务对资源的需求,从而有效的节省成本,提高资源管理的整体水平。
对现有的资源进行整合,通过虚拟化技术和自动化技术,实现资源的统一管理和运维。
基于ZETTAKIT超融合云计算数据中心由多个ZETTAKIT节点组成。
下图为标准的一个节点设备,占用2U(4U)高度。
每个ZETTAKIT节点均是1台标准的x86服务器。
提供2路IntelCPU计算能力和12/24个磁盘存储资源。
计算资源池是通过x86服务器ZETTAKIT虚拟化来实现的,基于ZETTAKITzKVM虚拟化Hypervisor,如下图。
在虚拟化Hypervisor层形成计算资源池,为业务系统的虚拟机提供不同的服务质量和能力,包括了高可用、在线迁移、资源动态负载均衡等虚拟化的特性。
同时,ZETTAKIT可以支持业务虚拟机P2V/V2V迁移能力,例如从物理机迁移到zKVM,vSphere迁移到zKVM等。
三.2存储(zSDS)
ZETTAKIT提供分布式存储系统,将多个节点上本地磁盘组成一个统一的存储资源池,为ZETTAKIT虚拟化平台提供存储资源,实现软件定义存储。
ZETTAKIT分布式存储架构不仅同样提供传统存储的能力外,还提供更多的能力。
支持快照、克隆等机制,数据层实现本地优先访问、存储分层、应用感知等性能机制,可在线增加磁盘或节点实现存储系统横向扩展,借助纠删码和多副本策略三份冗余数据提供存储的可靠性,增加或减少节点数据自动负载均衡,当节点宕机或磁盘损坏后具备数据自动恢复能力,ZETTAKIT云管理平台实现对存储系统运行状态实时监控。
ZETTAKIT每个节点提供SSD和HDD两种磁盘配置,可以适用于不同工作负载的应用,满足客户的各种应用需求。
对于要求IO读写较高的应用数据存储SSD磁盘资源池,对于非结构化数据存储在HDD资源池。
实现应用定义存储。
三.3网络(zSDN)
ZETTAKIT网络虚拟化zSDN,通过提供全新的网络运营方式,解决了传统硬件网络的众多管理和运维难题,并且帮助数据中心操作员将敏捷性和经济性提高若干数量级。
ZETTAKIT网络虚拟化zSDN方案通过和服务器虚拟化zKVM相结合,在虚拟机和物理网络之间,提供了一整套完整的逻辑网络设备、连接和服务,包括分布式虚拟交换机、虚拟分布式路由器、虚拟负载均衡、分布式防火墙、无代理虚拟防护等虚拟网络、安全设备;然后,还可以支持VXLAN等增强网络协议,实现和物理网络的无缝对接,简化网络的配置管理;此外,还可以通过云计算管理平台,实现网络拓扑部署、网络故障探测等网络管理功能。
从而,虚拟网络可以快速完成不同应用系统的网络部署,网络配置的自动化调整,网络故障排查等工作,提升网络的管理运维效率,提升网络就绪、扩展速度,降低数据中心物理网络的建设成本。
三.3.1分布式虚拟交换机
ZETTAKIT云计算管理平台支持VLAN、VXLAN、flat网络,租户的网络采用VXLAN隔离,每个租户网络可以实现虚拟机之间互通,通过分布式路由器可以实现虚拟机与外部网络的互通。
VXLAN可以提供数量更大的虚拟网络,同时通过VXLANVTEP减少虚拟机数量剧增对TOR交换机MAC地址表容量的压力,同时可减少虚拟机网络变化和虚拟机迁移对物理网络的影响,同时VXLAN突破了VLAN4K二层虚拟隔离网络的限制。
在云计算网络环境中,VXLAN技术可以让虚拟机不再暴露于物理网络设备中,实现了网络虚拟化,降低了对物理网络设备的依赖,简化了配置和部署,真正实现了软件定义网络。
传统VLAN网络中,虚拟机迁移只能在二层范围内进行,通过使用VXLAN可以简化对物理网络的要求,虚拟网络可以跨三层;虚拟机迁移也可以跨三层。
而且数据中心扩容也可以跨三层,同时可以实现虚拟机跨三层迁移的能力。
三.3.2分布式虚拟路由器
分布式虚拟路由器用于不同子网之间互通,主要实现路由功能,支持租户业务的三层网关。
通过分布式虚拟路由可以支持多种业务功灵活的互通能力,可以有一或多个网段,基于项目中的虚拟路由网络互通,每个项目中可以创建多个分布式虚拟路由器,分布式虚拟路由器主要适用于业务模型复杂,内部间互访需要细力度控制,对外服务需要提供高性能、高可靠性的环境。
三.4管理(zDirector)
采用ZETTAKIT云平台zDiretor对计算、存储、网络进行虚拟化管理,实现虚拟化资源池,满足业务弹性伸缩和快速部署。
通过统一的Web界面,实现对整个数据中心集中管理,可以对云计算环境的物理资源和逻辑资源进行集中的管理调度、自动化部署、状态监测以及统计报表分析,实时接收系统的运行状态,对于可能发生的软硬件故障,设置了预告警机制,可以以短信、邮件等多种方式提前通知用户系统存在的潜在风险和已知故障。
三.5安全
三.5.1平台安全
ZETTAKIT采用网络虚拟化隔离技术,采用了分层防御的技术理念。
在网络中多个区域执行安全性策略,确保网络中没有单点安全故障发生。
安全框架从宿主机、虚拟化、存储、网络、业务和数据、管理维护等几个维度,实现数据中心安全解决方案。
同时数据中心的基础安全能力主要通过系统加固、防病毒和第三方专业安全厂商进行产品整合来提供数据中心的安全。
三.5.2存储安全
ZETTAKIT超融合云数据中心的分布式数据存储采用多副本机制,每一份数据都可以有一个或者多个副本,当数据因存储载体(如硬盘)出现故障的时候,不会引起数据的丢失,也不会影响系统的正常使用。
本地存储通过纠删码可以保证同一台存储服务器里当一块磁盘离线时,保障数据不丢失;并把校验的信息均匀的分散到各个磁盘上。
磁盘上既有数据,也有数据校验信息,数据块和对应的校验信息会存储于不同的磁盘上,当一个数据盘损坏时,系统可以根据同一带区的其他数据块和对应的校验信息来重构损坏的数据。
ZETTAKIT超融合分布式存储提供了只读或可读写Snapshot(快照)功能,瞬时创建数据时间点快照。
使通过快照技术,未来更改快照保护的数据时,无需复制动作。
有需要时可以瞬时恢复快照数据。
可以对整个文件系统,或者文件系统中的文件夹,文件在某一个特定时刻的数据进行快照,以便数据损毁或丢失时,快速回滚,从而很容易的恢复该时间点的数据,可以防止数据被意外删除时的丢失等。
并且,快照文件相对于真实数据来说所占用的磁盘空间较小。
同时提供了可写的Snapshot功能,方便云计算中的虚拟机定制镜像模板,或者通过模板启动虚拟机等。
三.5.3虚拟化安全
ZETTAKIT超融合云计算在带来资源共用的好处,同时也带来新的安全风险。
首先是虚拟化层能真正地把虚拟机和物理主机、不同业务、不同公司的虚拟机和虚拟机之间安全地隔离开来,ZETTAKIT通过虚拟机隔离将同一物理机上不同虚拟机之间的资源隔离,包括CPU、内存、内部网络隔离和磁盘I/O等的细粒度的安全隔离。
三.5.4网络安全
ZETTAKIT超融合云数据中心针对网络提供对外服务部分将来自互联网络的各种安全威胁,如各种类型的DDOS攻击和用户数据遭窃听和篡改等,如何抵御这些威胁,是超融合云数据中心安全可靠运营的前提保障。
ZETTAKIT可以实现“网络隔离、传输安全”等多个安全维度积极为企业打造安全的数据中心网络。
ZETTAKIT通过子网划分、网络隔离手段实现计算、存储、管理等域的隔离,管理面单独物理组网,保证网络安全性,避免网络风暴等问题扩散。
多用户之间可通过项目、软件虚拟防火墙(安全组)进行隔离,确保各部门、各用户间网络互不干扰。
通过设置超融合云数据中心内部项目给每个部门划分独立的VLAN,对应独立的虚拟防火墙,超融合云数据中心保证不同企业或不同部门部署在云数据中心的数据和应用隔离。
三.5.4.1分布式防火墙
三.5.4.2无代理虚拟防护
三.5.4.3SNAT
通过SNAT实现共用公网IP提供端口级的外网访问,只能从内网主动访问外网,用户设置公网地址与私网地址映射关系,在防火墙上配置多对一SNAT服务。
SNAT允许您配置一个可路由网络,以及一个或一段公网IP地址。
配置后来自此可路由网络的Internet请求,在从VPC发出时,请求源端IP地址都会被映射到指定的公网IP地址。
这样Internet上的主机收到请求后,发回的响应就会依据SNAT配置的公网IP地址路由回来。
三.5.4.4密钥对
为了提高安全性,保护您的主机,ZETTAKIT推荐您使用SSH密钥登录的方式。
另外在创建SSH密钥时,支持用户输入公钥。
三.5.4.5浮动IP地址
浮动IP地址实现让外网访问内网,部署对外业务,也可从内网主动访问外网,用户设置公网地址与私网地址映射关系,在防火墙上配置一对一NAT服务。
浮动IP地址一般用于应用内部存在主备用关系的情况。
这种情况下,主备用Server各需要一个设备IP地址,同时还需要一个浮动IP地址对外提供业务。
正常情况下浮动IP由主用服务器占有。
当主用服务器故障时,备用服务器会主动获取此浮动IP,并继续提供业务。
三.5.5系统维护安全
ZETTAKIT云管理平台支持操作管理员账户管理。
提供一个缺省的超级管理员账户,使用该账户可创建其他账户。
支持角色管理功能,目前ZETTAKIT超融合云管理系统支持三种角色定义分别为超级管理员、项目管理员、最终用户对应不同的权限控制。
ZETTAKIT超融合云平台各虚拟化服务器的操作系统均进行针对性的了安全加固和安全设置,精简无关配置,尽可能减少安全漏洞。
针对各虚拟化服务器的操作系统基于Linux定制优化,操作系统安全进行了安全配置:
如关闭不安全的服务。
ZETTAKIT公司具有严格的安全补丁管理流程,定期发布经过测试的操作系统补丁包,由维护管理人员定期下载和安装操作系统补丁。
ZETTAKIT超融合云管理系统日志记录系统严重故障时的定位信息,主要用于故障定位和故障处理,便于快速恢复业务。
针对金融行业需求,可将日志传输给日志服务器进行数据分析。
三.6备份容灾
三.6.1异地数据备份
通过ZETTAKIT自身备份系统实现本地或异地数据备份。
通过快照技术保障数据安全。
通过指定虚拟机或虚拟机内指定卷对象按照指定的备份策略进行备份。
当虚拟机数据丢失或故障时,可使用备份的历史点数据进行恢复。
ZETTAKIT通过底层超融合存储层直接通讯,通过在主备数据中心专线网络,动态捕捉到主数据中心存储要备份的存储卷发生变化时备份集群存储能够响应的获取数据变化,写入存储数据一致;同时还支持虚拟机定期备份快照保存,生成回滚时间链,快照数量不受限制。
三.6.2双活数据中心
采用以领航盛辉Zettakit超融合技术为核心的云计算平台的双活云计算数据中心解决方案。
通过虚拟化方式将计算、存储等资源进行资源池化,通过自动化的方式实现云计算数据中心智能调度系统,实现两个数据中心间透明在线迁移数据应用、动态平衡业务负载、以及接近零的RTO高可用性等强大功能;同时,利用Zettakit自身强大云资源管理平台,将两个数据中心的IT资源形成标准化组件快速部署,提供全面集中监控管理。
为用户提供真正意义上的双活云计算基础架构。
四.系统功能描述
四.1功能设计说明
四.1.1多节点管理
ZETTAKIT云计算平台支持部署多达2048台服务器,服务器的所有物理资源和虚拟化软件构成虚拟化计算平台,平台通过对各维度资源的细粒度控制,充分利用整体服务器物理资源,提升服务器的资源利用率。
四.1.2资源调度
ZETTAKIT云计算平台支持对CPU资源进行细粒度控制,可指定占用虚拟CPU核心数量,在操作系统支持的前提下可在线动态增加CPU核数;支持虚拟机生命周期管理,包括新建、添加、删除、启动、停止、重启、资源释放和回收;支持对服务器内存的优化使用,可在有限的服务器内存资源中运行更多的虚拟机,避免因内存不足导致虚拟机无法运行。
支持数据中心资源动态调度,可根据业务压力随时调整虚拟机数量,在创建虚拟机时,系统会将虚拟机调度到有足够资源的主机上,让虚拟机充分、均衡的利用系统的物理资源,并且系统调度时可以将同一个用户下的虚拟机调度到不同的主机上,提高用户业务可靠性。
在业务访问高峰时段,通过应用负载均衡,创建多个虚拟机共同承载并发访问量大的业务;当高峰时段过后,释放其虚拟机资源运行其他业务,按需调整资源利用。
当系统物理资源不足时,可以动态添加物理服务器,及时补充计算、存储和网络资源,不影响已经运行的虚拟机。
四.1.3弹性磁盘管理
平台通过对存储资源的虚拟化可为虚拟机动态添加、删除磁盘,这些磁盘独立于云主机的生命周期而存在,可挂载到任意运行中的云主机上,并支持为这些云硬盘创建快照。
四.1.4虚拟机迁移
平台支持多个节点间虚拟机的宕机迁移和在线迁移,在线迁移过程中应用不间断,避免服务器故障对业务产生影响。
宕机迁移主要用于服务器因不可抗力因素导致服务器宕机,快速恢复虚拟机以及虚拟机服务。
四.2云计算底层操作系统
四.2.1系统服务SLA
ZETTAKIT云计算操作系统通过深度优化底层操作系统和虚拟化软件,保障系统稳定可靠运行,系统SLA即系统可用性在99.999%以上。
四.2.2虚拟化性能效率
ZETTAKIT云计算操作系统对虚拟化技术进行定制,提升虚拟化效率,cpu虚拟化率98%以上,内存虚拟化可得率95%以上,I/O虚拟化可得率95%以上,同时开启并支持服务器硬件中断虚拟化特性,大幅度降低中断虚拟化带来的性能开销,提升整个虚拟化的效率。
四.2.3热补丁升级技术
ZETTAKIT云计算操作系统支持内核热补丁升级技术,在不关闭物理服务器的情况下,修复虚拟化系统的漏洞并且平滑升级。
热补丁升级技术是一套对虚拟化内核应用补丁的工具,将有漏洞的函数替换为正确的实现,在替换的过程中,无需关