Cisco云计算平台设计方案.docx

上传人:b****4 文档编号:24581463 上传时间:2023-05-29 格式:DOCX 页数:80 大小:1.44MB
下载 相关 举报
Cisco云计算平台设计方案.docx_第1页
第1页 / 共80页
Cisco云计算平台设计方案.docx_第2页
第2页 / 共80页
Cisco云计算平台设计方案.docx_第3页
第3页 / 共80页
Cisco云计算平台设计方案.docx_第4页
第4页 / 共80页
Cisco云计算平台设计方案.docx_第5页
第5页 / 共80页
点击查看更多>>
下载资源
资源描述

Cisco云计算平台设计方案.docx

《Cisco云计算平台设计方案.docx》由会员分享,可在线阅读,更多相关《Cisco云计算平台设计方案.docx(80页珍藏版)》请在冰豆网上搜索。

Cisco云计算平台设计方案.docx

Cisco云计算平台设计方案

Cisco云计算平台设计方案

1.云计算平台的设计目标

云计算平台采用了具有动态架构的云计算操作系统(VMwarevsphere产品),保证信息化的先进性、安全性、开放性、兼容性、共享性、可升级及扩充性,可确保系统实施和日后服务的效率和弹性。

除以上提到的基本特色之外云计算平台还具备如下优点:

1)简化管理:

云计算平台物理设施的复杂度降低,能够最低限度的减少物理资源的直接调度,使维护管理的难度和成本大大降低。

2)高效复用:

使得物理资源可以按需调度,物理资源得以最大限度的重用,减少建设成本,提高使用效率。

即能够实现总硬件资源占用量降低了,而每个业务得到的服务反而更有充分的资源保证了。

3)绿色环保:

节能降耗,最大限度节省电力消耗。

4)数据保护

实现高级别的数据备份及恢复机制,针对高级应用则采用更高级别的数据保护机制。

2.云计算平台逻辑拓扑图

3.拓扑及云计算平台设备组成

XXXXXXX云计算平台(参考:

云计算平台逻辑拓扑图)选择的皆为行业内领军企业的产品,这些产品一同组成的云计算平台不是简单的产品堆砌,而是经大量的案例证实为切实可靠的解决方案。

其中最重要的计算平台、存储平台、云计算操作系统分别为思科产品、EMC产品、VMware产品,这三家公司共同组成了一个从技术、开发、服务等诸多领域的综合联盟(VCE联盟,方案后面会有较详细的介绍),使其兼容性及总体性能达到了最优。

本方案中无论是应用交付领域、数据保护领域、网络安全及用户个人数据防护方面都设计到了最优。

目前XXXXXXX云计算平台主要包含的设备有:

1)思科统一交换网络——CiscoNexus5500;

2)思科统一计算平台——CiscoUCS;

3)EMC统一集中存储系统——EMCVNX(SAN+NAS);

4)VMware服务器虚拟化——VMwarevSphere;

5)VMware桌面虚拟化——VMwareVIEW;

4.VCE联盟在数据中心的意义

思科、EMC携手VMware结成虚拟计算环境(VirtualComputingEnvironment)联盟,这是三大IT业界领袖企业的首次共同协作。

该联盟的成立,旨在通过普适数据中心虚拟化和向私有云架构的转型,不断提高IT基础架构的灵活性,降低IT、能源和空间成本,从而让客户能够快速地提高业务敏捷性。

思科、EMC和VMware一直开展着密切的合作,三方有着共同的愿景,即企业IT基础架构的未来是私有云计算。

私有云是一种虚拟的IT基础架构,专为一个机构安全地控制和独立的运行。

它可以由该机构或第三方管理,它可以在该机构所在地点之内或者之外,或者兼而有之。

私有云计算既提供了当前数据中心的可控性和安全性,又提供了业务创新所要求的敏捷性,而且大幅降低成本。

“虚拟计算环境联盟”为各种规模的组织机构提供了数据中心转型的加速之路,从而帮助他们极大地提高数据中心效率,同时大幅降低资本开支和运营费用。

这样,组织机构就不用再为究竟是选择最好的技术,还是选择端到端的供应商可靠性而劳神。

伴随着VblockTM基础架构包的发布,“虚拟计算环境联盟”将为客户将提供更好的方法,去从根本上简化和优化私有云相关的IT战略。

Vblock基础架构包是一个完全集成、经过测试和验证的、整装待发和蓄势成长的基础架构包,它融合了思科、EMC和VMware提供的业内最强的虚拟化、网络、计算、存储、安全和管理技术,并且具备端到端的供应商可靠性。

在XXXXXXX云计算平台项目中我们则综合运用了VMware、Cisco、EMC这三大IT巨头及新兴网络代表F5及BlueCoat公司的产品,经过科学的部署周密的规划必能将XXXXXXX云计算平台建设成一个高可靠、高扩展性、易于管理且具备良好兼容性的优质云计算平台。

5.计算系统设计(思科UCS)

5.1服务器发展趋势

在数据大集中的趋势下,数据中心的服务器规模越来越庞大。

随着服务器规模的成倍增加,硬件成本也水涨船高,同时管理众多的服务器的维护成本也随着增加。

为了降低数据中心的硬件成本和管理难度,对大量的服务器进行整合成了必然的趋势。

通过整合,可以将多种业务集成在同一台服务器上,直接减少服务器的数量,有效的降低服务器硬件成本和管理难度。

服务器整合带来了巨大的经济效益,同时也带来了一个难题:

多种业务集成在一台服务器上,安全如何保证?

而且不同的业务对服务器资源也有不同的需求,如何保证各个业务资源的正常运作?

为了解决这些问题,虚拟化应运而生。

虚拟化指用多个物理实体创建一个逻辑实体,或者用一个物理实体创建多个逻辑实体。

实体可以是计算、存储、网络或应用资源。

虚拟化的实质就是“隔离”—将不同的业务隔离开来,彼此不能互访,从而保证业务的安全需求;将不同的业务的资源隔离开来,从而保证业务对于服务器资源的要求。

数据中心资源的整合和虚拟化正在不断发展,这需要高度可扩展的永续安全数据中心网络基础。

网络不但能让用户安全访问各种数据中心服务,还能根据需要实现共享数据中心组件的部署、互联和汇聚,包括各种应用、服务器、设备和存储。

适当规划的数据中心网络不仅能保护应用和数据完整性,提高应用可用性和性能,还能增强对不断变化的市场状况、业务重要程度和技术先进性的反应能力。

服务器虚拟化为世界各地的数据中心带来了众多优势,但同时它也向数据中心提出了挑战。

如果有统一的I/O配置和足够的带宽,在每台物理服务器上支持大量VM,则资源池的管理会较为容易。

资源池将能更快速地应对迅速变化的业务情况和工作负载,新服务器资源的添加能在几分钟内完成,然后设置并投入使用。

而无需通过数小时甚或数天繁琐、耗时且易于出错的人工配置,来准备服务器及其接口、固件和设置。

通过平衡CPU处理能力和经济高效的内存配置使虚拟机密度提高时,就能够更轻松地实现服务器虚拟化的经济优势。

最后,在统一了网络接入层,并以相同方式对待虚拟机链路与物理服务器链路时,能够更高效、更安全地管理虚拟环境,并获得更出色的QoS。

思科统一计算系统通过下一代数据中心平台解决了上述挑战。

此平台将计算、网络、存储访问和虚拟化统一到一个综合系统中,进行集中管理,并使用VMwareESX服务器等虚拟化软件进行协调。

该系统在一个万兆以太网统一阵列中集成了企业级服务器,提供了虚拟机和虚拟化软件所需的I/O带宽和功能。

思科扩展内存技术为高度虚拟化所需要的大内存提供了一种极为经济的配置方法。

最后,思科统一计算系统将网络访问层集成为一个能轻松管理的实体,在此实体中,能像物理链路一样配置、管理和移动虚拟机链路。

思科统一计算系统继承了思科长期以来的优秀创新传统,在架构、技术、合作关系和服务方面都进行了出色创新。

5.2刀片服务器选型——思科UCS

5.2.1刀片服务器的特点

刀片服务器是一种HAHD(HighAvailabilityHighDensity,高可用高密度)的低成本服务器平台,是专门为特殊应用行业和高密度计算机环境设计的,其主要结构为一大型主体机箱,内部可插上许多“刀片”,其中每一块刀片实际上就是一块系统母板,类似于一个个独立的服务器,它们可以通过本地硬盘启动自己的操作系统。

刀片式服务器具有四大特点,首先是部署简单、易于维护,所有的线都连在机柜上,布线只有原来的1/10或者1/20。

其次是维护成本低,服务器出现问题的时候,刀片可以立即更换并马上启用,而塔式和机架式则不可能做到这一点。

第三是节省占用空间成本和能源消耗成本,机架式服务器本身要带电源、光驱、软驱等一系列基础设施,不但占用了宝贵的空间更增添了能源的消耗成本。

而一个机柜中的所有刀片都能共用一套基础设施,除了空间利用率更高之外,集中供电效率也远比单机要高很多。

5.2.2思科UCS的优势概述

在此方案中我们建议选择思科统一计算系统(UCS)。

UCS是一个理想的虚拟化理想平台,因为它减少了I/O、CPU和内存等的虚拟化“痛点”(painpoint)问题。

思科UCS是为虚拟化“度身定做”的。

虽然UCS从本质上来说,可以认为它就是一组刀片系统。

但是UCS的出众之处就是它为虚拟化做了很多优化,所以很明显UCS会比普通刀片系统的更好地为虚拟机的目标服务。

那么首先,谈一下虚拟化技术有那些目标呢?

5.2.2.1虚拟化的目标

主要能从三方面体现虚拟化的目标:

1)服务器的整合(ServerConsolidation),因为之前普通X86服务器的利用率基本在10%以内,所以通过虚拟化技术,能平均实现1:

8的整合比率,也就是说,现在一台虚拟主机能承受之前8台物理服务器工作量,这不仅能降低在服务器方面的开支,而且还能降低在能源和管理方面所需投入的成本。

2)简化系统管理(SimplifySystemManagement),首先,通过减少物理机的数量,能成倍地减少管理节点的数量。

其次,由于虚拟机的移动性,使得通过vMotion和DRS等技术能自动优化系统资源。

3)加速应用部署(AccelerateApplicationDeployment),由于虚拟机镜像的移动性,使得通过使用虚拟器件(VirtualAppliance)等手段能加速部署。

接下来,将通过对这三方面进行展开来体现UCS在那些方面做了优化。

 

5.2.2.2服务器整合

提高服务器整合最好的方式就是增加服务器的各方面的资源,而UCS在这方面,做的不仅不逊色,而且在CPU,内存和网络架构都有创新:

1)在CPU方面:

UCS的第一款刀片服务器B系列就支持Nahalem架构的IntelCPU,由于其不仅在速度远胜上代,而且因为其HyperThread(HT)技术,使得CPU的逻辑核心数量增加了一倍,虽然这种提升对普通应用而言应该提升不大,但是对虚拟化而言,它却是一个强心剂,因为vCPU的数量倍增了,也就能够支撑更多的虚拟机,特别是最近,思科还推出基于最新32nm的Westmare技术的C系列服务器。

2)在内存方面:

对虚拟化而言,内存比CPU更缺,因为每个虚拟机其实在运行的时候,不一定损耗很多的CPU周期,但是它会固定消耗很多内存资源,而且内存和其他资源相比很难overcommit(超标预订)。

既然内存对虚拟化是如此的重要,所以UCS为此推出它的ExtendedMemory(内存扩展)技术,通过这种技术能让一台薄薄的刀片服务器内装载高达384GB的内存,从而加载更多的虚拟机,同时内存也能跑在1066MHz的高速下。

3)UCS整套网络架构:

其包括能支持128个虚拟接口的Palo网卡和能提供多达几十Gps网络带宽的UCS6100FabricInterconnect(互联阵列),通过这些设施在网络方面能够非常好地应对大量虚拟机的情况。

综合上述这些方面,UCS所提供的整合率将远超业界最普通的1:

8的比率,如果按照一台虚拟机消耗2GB的内存,CPU平均利用率在10%左右的情况,估计一台UCS的刀片机能支持多达160台以上的虚拟机。

 

5.2.2.3简化系统管理

在简化系统管理方面,UCS除了之前已经提到的通过服务器整合带来的好处之外,还有其他方面优点。

1)通过引入VN-Link技术改良了之前很难管理的VirtualNetworking,比如使用CiscoNexus1000v或者NetworkInterfaceVirtulization技术来替换之前常用但比较麻烦的VirtualSwitch来管理网络。

2)使用FabricExtender替换传统的刀片交换机,这意味在网络架构中将减少在Blade机箱这层,从而使整个网络架构得到简化。

3)通过引入UnifiedFabric技术来整合数据通信和存储通信,通过这种做法能极大地减少网卡和网线的使用。

4)使用统一的UCSManager来管理所有硬件,而且能非常简便和快速地配置和部署新的服务器。

 

5.2.2.4加速应有部署

在这方面,UCS并没有做过多的优化,因为这方面主要通过其上的vSphere来控制。

但是UCS还是有其相关的优势:

1)通过UCSManager的Template机制能非常方便地部署应用所需的资源。

2)UCS可搭载多种利于应用部署的管理工具,比如BMC的管理套件和EMCIONIX等。

刀片服务器及机箱配置:

采用思科5108刀片服务器,机箱最多可以安装8台刀片服务器,由2104XP通过光纤连至6120XP,每个2104XP有4个10G上行端口,支持40G带宽,每刀片机箱安装1个,共40G带宽。

刀片服务器选择思科UCSB系列刀片服务器。

采用思科UCS具有如下优势:

单一管理入口:

所有服务器的配置,更改,以及VLAN和VSAN的配置和更改都在一个界面内完成,无需登陆多个管理模块或管理服务器。

同时,也是在同一个管理界面,可以监视所有服务器和统一交换平台的健康状况。

便于扩展:

添加新服务器时,只需简单地将服务器插入机箱,UCSM会自己发现新设备,并根据策略自动或手动地将服务器的网卡,HBA或虚拟网卡配置好,并联如相应的VLAN和VSAN。

加强故障隔离能力:

所有的链接都是冗余的,整个系统不存在单点故障,在保证系统的简洁性的同时,也保证了系统的安全性。

5.3刀片服务器的统一管理

集中、全面的管理,并与统一交换平台相结合,意味着不再需要人工配置和集成各种独立组件,就能创建一个高效的虚拟池。

思科统一计算系统能够简单、自动地执行将一个新服务器部署到系统中的流程,在几分钟内就能完成新服务器的安装、配置并将其投入使用,而不必像传统配置方法那样耗费数小时乃至数天的时间。

这一功能不仅有助于提高IT人员的生产率,而且在需要更多资源时能够快速扩展虚拟池的能力。

CiscoUCSManager是思科统一计算系统的中枢神经系统。

它从端到端集成系统组件,因此系统能作为单一逻辑实体进行管理。

CiscoUCSManager提供一个直观GUI、一个命令行界面(CLI)和一个强大的API,因此它能单独使用,也能与其他第三方工具集成使用。

通过单一控制台,能够全方位管理服务器配置-系统身份、固件版本、网卡(NIC)设置、HBA设置和网络配置文件等,无需为个系统组件配备单独的管理模块。

CiscoUCSManager内嵌在两个互联阵列中。

CiscoUCSManager全方位配置服务器以及它在系统中的连接。

它能设置或配置唯一用户ID(UUID)、BIOS和固件版本;包括MAC地址、VLAN和服务质量(QoS)设置在内的NIC配置;包括全球名称(WWN)、VSAN、带宽限制和固件版本在内的HBA配置;以及包括VLAN、VSAN、QoS和以太通道设置在内的上行链路端口配置。

5.4UCS中的统一交换平台

思科统一计算系统的重要目标是实现传统数据中心最大程度的资源整合。

一般在传统数据中心中存在两种网络:

传统的数据局域网和使用光纤存储交换机的存储交换网络。

统一交换平台将这两种网络实现在统一的传输平台上,即使用一种交换技术同时实现传统数据网络功能和远程存储。

这样才能最大化的实现资源的整合,降低系统复杂程度,从而便于实现跨平台的资源调度和虚拟化服务,提高投资的有效性,同时还降低了管理成本。

要实现存储网络和传统数据网络的双网合一,使用思科统一交换平台实现二者的一体化交换。

当前在以太网上融合传统局域网和存储网络唯一成熟技术标准是FiberChannelOverEthernet技术(FCoE),它已在标准上给出了如何把存储网(SAN)的数据帧封装在以太网帧内进行转发的相关技术协议。

由于该项技术的简单性、高效率、经济性,目前已经形成相对成熟的包括存储厂商、网络设备厂商、主机厂商、网卡厂商的生态链。

具体的协议发布可参见FCoE的相关WebSites。

(http:

//www.t11.org/fcoe)

CiscoUCS6100系列互联阵列是思科统一计算系统的核心组成部分,为系统提供了网络连接与管理能力。

CiscoUCS6100系列提供线速、低延时、无丢包万兆以太网和以太网光纤通道(FCoE)功能。

CiscoUCS6100系列可为CiscoUCSB系列刀片服务器和UCS5100系列刀片服务器机箱提供管理和通信骨干。

所有连接到CiscoUCS6100系列互联阵列的机箱和刀片服务器,均成为单一高可用管理域的组成部分。

此外,通过支持统一阵列,CiscoUCS6100系列还为其域内的所有刀片服务器提供了局域网(LAN)和存储域网络(SAN)连接。

Ø计算网络设备选型:

●统一交换阵列:

由1台思科6120XP组成统一交换平台,是数据交换网络的骨干,并且由它实现对所有刀片服务器的设置。

6120XP有20个全万兆端口,全线速,无阻塞无丢包交换阵列。

●统一交换阵列扩展模块:

8端口4GFC扩展模块。

6120XP可以安装多种扩展模块,接入目前的传统IT架构里光纤SAN交换机等,保护用户以前的投资。

青岛胶建集团企业网络的业务应用特点决定了目前的数据中心必须有很强的扩展能力,而同时又不能增加系统管理的难度和复杂性。

采用思科统一计算平台可以很好的解决这个问题。

当需要扩展时,只要将新的刀片机箱接入6120XP,6120XP上内置的管理软件会自动的发现新的硬件,可以根据事先定义好的服务配置脚本对服务器进行设置,如新服务器应该接入那个VLAN,服务器上的HBA卡或应该接入那个VSAN都可以在几分钟内设置完成。

在最大规模的系统时,其管理难度和复杂度都没有增加,下图显示了思科统一计算系统较大规模时的架构示意图,可以看到,虽然服务器数量和刀片机箱数量大大增加,但是,从整体架构上看,没有任何改变---所有服务器和刀片机箱都接入统一交换平台,所有管理都从统一交换平台内置的管理软件实现,同时,完全融合已有的网络和存储环境:

5.5思科UCS无状态计算的能力

思科统一计算(CiscoUCS)平台灵活实现了当前数据中心最为热门的FCOE技术,并且成功的实现了无状态计算的功能。

这两种功能的实现使得思科UCS在数据中心部署时即可简化物理的安装、布线又可大大的节省日后的维护成本,提高数据中心的高可靠、快速响应的能力。

思科UCS的无状态计算可以达到这样的效果:

在思科的刀片机箱中如果有一台刀片服务器宕机,数据中心的管理员在收到报警信息后仅需要将宕机的服务器从刀片机箱中拔出然后插入新的刀片服务器启动即可。

在思科6120XP的作用下,新插入的刀片服务器将能自动发现并完成原先刀片服务器与EMC存储上的lun的关联状态;新的刀片服务器将继承原刀片服务器的UUID、MAC地址信息、WWNN信息、WWPN信息、BIOS信息、引导顺序等所有服务器的个性化信息。

利用SANBOOT功能新插入的刀片服务器与LUN管理完毕后将从存储上启动ESX操作系统,系统引导完毕后整个维护工作也宣告结束。

无需配置传统的服务器硬盘RAID配置、安装操作系统、从存储上调整LUN和新服务器的关联、配置新装系统的网络、存储、管理权限……等诸多工作。

在数据中心中利用思科的UCS部署VMware使数据中心的管理彻底轻松下来的同时也极大的提高了数据中心在中的服务能力。

5.6思科UCS平台与VMware结合的优势

在经济环境良好的时期,“以更少投入获得更大回报”是帮助企业增强竞争优势的座右铭。

而在经济困难时期,利用较少资源完成更多任务则能帮助机构继续在市场中生存。

几乎每个人都知道虚拟化的优势:

●整合工作负载;提高利用率;降低运营、投资、空间、耗电和冷却等。

●在虚拟池中动态地移动工作负载,提高使服务器离线或增加新服务器的灵活性。

●管理虚拟机与物理机之间的关系,优化性能,保证服务水平。

●使用现有资源池创建更多虚拟机,从而扩展当前应用或部署新应用。

●使用虚拟化软件的高可用性和灾难恢复功能,来解决本地和跨地区故障问题。

虚拟化使应用部署与服务器购买分离开来,但是这一优势和其他虚拟化优势只有在应用程序运行在一个或多个统一的服务器资源池时,才能能够最好地发挥。

思科统一计算系统™就旨在提供这样一个环境。

专为虚拟化环境而优化的思科统一计算系统是下一代数据中心平台,在一个紧密结合的系统中整合了计算、网络、存储接入与虚拟化功能,旨在降低总体拥有成本(TCO),同时提高业务灵活性。

该系统包含一个低延时无丢包万兆以太网统一阵列,以及多台企业级x86架构服务器。

它是一个集成的可扩展多机箱平台,在统一的管理域中管理所有资源。

5.6.1统一阵列

虚拟环境需要一致的I/O配置,为资源池中所有服务器的系统管理程序提供统一支持。

它们还需要能够支持虚拟机(VM)在资源池中的各服务器间移动,同时又能满足各虚拟机带宽和安全要求的I/O配置。

思科统一计算系统以一个低延时无丢包的10-Gbps统一网络阵列为基础,能够满足这一需要。

CiscoUCS5108刀片机箱中的刀片服务器通过扩展卡访问阵列,每刀片服务器吞吐率高达40Gbps。

该统一阵列采用“一次布线”部署模式,机箱只通过线缆连接到互联阵列一次,I/O配置的改变只需通过管理系统进行,而无需安装主机适配器以及对机架和交换机重布线(参见图1)。

此统一阵列不再需要在每个服务器中部署冗余以太网和光纤通道适配器,也不必采用独立布线连接接入层交换机,并为每种网络媒体使用不同交换机,因此大大简化了机架布线。

所有流量都路由到中央服务器互联,随后以太网和光纤通道流量可独立传输到本地非整合网络。

图1.统一阵列将多种流量传输到CiscoUCS6100系列互联阵列,在此以太网和光纤通道流量拆分到独立网络

该统一阵列基于万兆以太网,采用标准扩展支持更多流量类型并优化管理。

它支持以太网和以太网光纤通道(FCoE),其管理特性使得以太网和FCoE等多种流量的管理能独立进行,支持带宽管理,且各流量级别间无干扰。

统一阵列为虚拟环境提供了创建基于统一I/O连接的大型服务器资源池的能力,通过编程,该资源池能够以与数据中心当前最佳实践相一致的方式运行。

在虚拟化软件使用基于光纤通道的共享存储的环境里,就无需再部署冗余HBA卡、收发器、电缆和上游交换机端口,这些成本相当于一个小型服务器。

正如文章稍后所讨论的那样,CiscoVN-Link技术支持每个虚拟机和互联阵列间的虚拟网络连接,简化了虚拟机及其网络的管理,包括轻松移动虚拟机,自动保持安全性等网络特性。

5.6.2内嵌统一管理功能

当服务器配置到资源池中以后,便可以根据需要进行管理,以满足不断变化的工作负载要求;在部署新应用时无需为其安装特定硬件;并能在服务器间移动虚拟机,以均衡工作负载、满足服务水平协议(SLA)或使某个服务器为计划内停机作好准备时,虚拟化能为数据中心发挥最大价值。

CiscoUCSManager将思科统一计算系统的资源整合为单一综合系统,非常适于为虚拟环境建立资源池。

CiscoUCSManager是思科统一计算系统的中枢神经系统。

它从端到端集成系统组件,因此系统能作为单一逻辑实体进行管理。

CiscoUCSManager提供一个直观GUI、一个命令行界面(CLI)和一个强大的API,因此它能单独使用,也能与其他第三方工具集成使用。

通过单一控制台,能够全方位管理服务器配置-系统身份、固件版本、网卡(NIC)设置、HBA设置和网络配置文件等,无需每个系统组件配备单独的管理器。

CiscoUCSManager内嵌在配置成高可用集群的两个互联阵列中。

集中、全面的管理,并与统一阵列相结合,意味着不再需要人工配置和集成各种独立组件,就能创建一个高效的虚拟池。

CiscoUCSManager能够简单、自动地执行将一个新服务器部署到系统中的流程,在几分钟内就能完成新服

展开阅读全文
相关资源
猜你喜欢
相关搜索

当前位置:首页 > 高等教育 > 理学

copyright@ 2008-2022 冰豆网网站版权所有

经营许可证编号:鄂ICP备2022015515号-1