EMC Isilon存储方案.docx

1、EMC Isilon存储方案存储设备项目Isilon集群存储方案介绍2012年4月16日1解决方案1.1Isilon概述Isilon/美国赛龙集群存储系统有限公司是2001年成立于美国西雅图，是专门面向集群存储领域的存储提供商；2007年十月进入中国市场，目前在中国市场有比较多的客户，主要集中在能源、媒体、高性能、生命科学等领域，2010年成为EMC旗下企业。2011年6月27日,根据标准性能评估机构（SPEC?）的独立基准测试结果，横向扩展NAS系统成为新的业界性能领导者。按照最新的SPEC基准测试了网络文件性能和整体响应时间， EMC Isilon S200横向扩展NAS平台获得了创纪录的

2、性能测试结果，超过竞争对手最接近测试结果的两倍多。Isilon IQ集群存储系列产品设计基点是为满足以数据为核心的企业对高性能计算环境的要求。Isilon的集群存储方案是由OneFS?操作系统软件和最先进的符合行业标准硬件所组成，提供灵活的“按需购买，渐进扩展”（pay-as-you-grow）的企业级集群存储系统。内置 TrueScale?技术的OneFS，使Isilon IQ成为业内第一个也是惟一的能使性能和容量线性或独立升级的存储系统。这种灵活可调节的新型系统拥有一套高效的集群存储软件应用，为用户提供了现成的存储方案，完全满足多种应用和工作流需要。Isilon IQ集群存储产品线满足企业

3、全方位的存储要求，从最高性能的一级应用到二级的企业归档、磁盘到磁盘备份和灾难恢复。基于OneFS操作系统，Isilon IQ系列产品能提供易于安装和增容的单个可扩展存储池。1.2方案设计根据需求选择Isilon产品线X、S系列中的构成存储集群，应用Isilon存储的两种型号，Isilon S200、Isilon X200。Isilon IQ S200配置双路Intel Xeon Westmere(四核)处理器，每节点高达96GB高速缓存，每节点提供2个1Gbps千兆以太网接口及2个10Gbps万兆以太网接口;Isilon X200配置双路Intel Xeon Nehalem(四核)处理器，每节

4、点高达48GB高速缓存，每节点提供2个1Gbps千兆以太网接口及2个10Gbps万兆以太网接口、2个Infiniband接口，后端选用40Gbps QDR Infiniband交换机。 此次项目选用3台Isilon S200+3台X200共6个节点组成集群存储，单节点容量54TB，集群提供12个Intel Xeon(四核)处理器，90GB高速缓存，12个10GE万兆+12个GE千兆以太网接口，8个内部QDR Infiniband接口，共提供40Gbps最大吞吐量。后端使用8口万兆Infiniband交换机做内部数据交换。1.3方案指标汇总项目内容S200单节点处理器双路Intel Xeon W

5、estmere (四核)处理器，单节点缓存24GB后端IB QDR接口数2个前端网络接口2个Gige和2个10GigeX200单节点处理器双路Intel Xeon Nehalem(四核)处理器单节点缓存6GB后端IB QDR接口数2个前端网络接口2个Gige和2个10Gige1.4方案竞争优势1.4.1超大可扩展容量此集群可以扩展至144个节点加144个扩展抽屉。并且所有空间都属于同一文件系统，也就是说，扩充的容量不需要做新的RAID或者加入到现有RAID，不需要建立逻辑卷，不需要创建文件系统，不需要修改使用存储客户端的任何设定。1.4.2超快扩容速度使用RAID技术的存储系统扩容不便，向RA

6、ID中增加新的容量只能以一到两块盘为单位，且需要长时间重建和同步，这对增加上百TB的容量是不可想象的，而新容量做成新的RAID又会浪费更多的空间做冗余且往往需要修改使用存储的客户端设定。Isilon集群存储由于采用了专利的OneFS核心系统，没有RAID概念以及相关的重建过程，因此每增加一个节点至可用容量只需要60秒钟，比如我们需要再增加10个Isilon节点，连线完毕通电后仅需要10分钟后即可将其加入到可用容量中！1.4.3可增长的高性能由于Isilon存储系统的“集群化”设计，决定了其性能能够和容量同步提升的特点，就类似动车组列车，每一节车厢（Isilon存储节点）都有自己的动力（处理器、

7、高速缓存和对外网络接口），而不像传统的列车，靠一个动力强劲的车头（存储机头）拉动一批没有动力的车厢（存储扩展柜），如果车头能力不变（一般的存储系统，机头的性能是固定或者几乎没有太大扩展能力的），增加新的车厢（增加存储扩展柜，扩容），只能造成性能的下降。1.4.4高可靠性一般的存储系统都采用RAID技术来进行数据保护，这样能够保证一到多块硬盘同时损坏而不产生数据丢失，而Isilon的N+M保护级别允许同时14个节点（存储盘柜）同时损坏且数据不丢失，这是任何RAID技术无法实现的，具有更高的安全性。并且Isilon文件级别采取不同的保护，重要数据使用高保护级别，相对不重要的采用低保护级别，既保障了

8、数据安全，又节省了宝贵的存储空间，并且保护级别可以随时在线更改不需要停机。1.4.5高可用性类似动车组的存储节点设计配合双冗余的交换机等附加设备，Isilon集群存储不存在单点故障。SmartConnect Advanced技术实现了用户的负载均衡和动态迁移，保证了资源的有效利用和存储故障时所有用户不掉线。1.4.6高可维护性Isilon存储集群由外观和设计完全一样的存储节点构成，连线和维护异常便利，附加的设备也只有后台交换机，架构异常简单。每一个Isilon存储节点上都可以进行管理，这样不会出现传统存储的机头损坏就无法进入管理系统的情况。而且由于不需要做RAID，逻辑卷和文件系统，无论是维护

9、10TB还是1000TB数据，管理难度和复杂度都没有任何区别。1.4.7高利用率与传统存储扩容需要做新的RAID不同，不改变保护级别的情况下Isilon存储集群实现数据保护的容量损失是固定的，比如N+1保护级别下的9个X200节点可用容量是96TB左右（损失一个节点的容量），这时候再增加一个节点IQ X200，它的12TB空间都会是可用容量，而不会因为数据保护而容量损失，这是传统存储很难做到的。这个优势在节点越多容量越大的情况下越明显，最高级别的保护下（N+4保护级别，同时允许4个节点即个4个盘柜同时损坏）存储空间可用率最高仍然可以接近96%，如果存储系统需要面向未来大规模扩容，空间利用率将是

10、非常重要的，毕竟海量存储容量下几个百分点的差距都会产生可用空间数十TB的区别。1.4.8适合多应用环境Isilon类似“动车组”的模块化集群化设计注定其无论在要求存储高性能的HPC高性能运算领域，要求海量的数据备份领域还是常规应用领域都可以游刃有余，专利的FlexNet功能还能保证各个业务网络层隔离，互不影响。2服务方式与级别2.1概述Isilon出众的技术支持是您的企业IT运作成功的关键。我们认为仅仅是在问题出现后再作出反应是远远不够的，Isilon能帮您防患于未然，确保您的存储系统总是表现出处理的高性能、数据的高可用性和运作的高效率。Isilon 全球服务体系能够提供业内最灵活的技术支持方

11、案，让企业能够充分利用支持服务，满足其独特的IT 和业务需求。每一家企业面临的问题都不同， Isilon 全球服务体系将根据您的人员和IT 特点，为您量身定做最合适的服务方案。采用最适合自己的技术支持方案，企业用户能够建立一个全球支持战略，使每一笔IT投资的回报达到最大化。2.2技术支持Isilon 技术支持致力于让您的Isilon投资物超所值。我们提供的技术服务包括：全面的故障分析硬件和软件技术支持 全天24小时电话、邮件和网站支持远程问题通知2.3在线支持客户可随时登录Isilon网站，获得在线技术支持：Isilon知识库 登陆填写服务请求 在线技术培训下载升级软件技术支持项目银级支持黄金

12、级支持白金级支持Isilon 知识 (知识库)远程监控和诊断?北美免费热线支持工作日的远程技术支持?24x7 全天远程技术支持?次日配件派递（全球范围内)?一级城市4小时内配件送达（全球范围内）?现场备用件2.4本地服务支持在Isilon，我们深知快速有效提供现场支持的重要性。在我们的白金和黄金客服计划中，Isilon 的区域服务代表在您需要的时候，随时准备为您服务，包括提供远程系统诊断和送递配件到现场。其他现场服务，可通过请求以下一个咨询服务：先进的存储整合 备份和恢复整合 数据迁移服务2.5售后服务技术支持详述技术服务体系：2.6地域覆盖以北京、上海、广州服务中心为区域的枢纽。3产品技术参

13、考3.1特性与优势3.1.1开放式架构首先，解释一个概念，scale-up和scale-out是什么？Scale-up和scale-out技术都是从服务器领域衍生出来的概念。在服务器领域，从早期的mainframe到Unix小型机到现在最为流行的集群架构，就经历了从scale-up架构到scale-out架构的转变。开始的mainframe和Unix小型机都是标称最大可以支持若干CPU和若干内存，但是实际购买时，却不会一次到位，而是按需扩展，比如第一次先买4个CPU，8G内存。过一两年以后，扩展到8个CPU和16G内存；当某一天达到此系统的上限以后，服务器的处理能力就不能通过在原来服务器里面扩

14、展CPU和内存来实现了，而只能购买新的服务器来实现。这种架构就叫做scale-up架构，其含义就是设备处理能力上限在购买时已经确定，如果需求超过上限，只能重新购买更高性能的设备。现在流行的集群架构是完全采用了积少成多，采用搭积木的方式来实现高端服务器的处理性能。构成集群系统的个体本身性能并不高，但是通过把成百上千台个体聚合起来，其提供的处理能力就可以比高端的服务器还要高。目前世界上最快的计算系统，就是采用这种架构来完成的。这种采用搭积木模式搭建起来的系统采用的就是scale-out的架构。这种scale-out架构本身就是一种开放式的架构。当把这种架构移植到存储设备上，就形成了scale-ou

15、t架构的存储。Isilon公司的集群存储作为scale-out NAS领域的领头羊，具有如下的架构特点：如图所示，Isilon集群存储分为三个组成部分：前端网络Isilon集群存储前端网络目前采用万兆以太网，接入客户现有环境的核心交换机内部。存储节点Isilon集群存储的存储节点分为五大系列（其中S，X，NL三大系列又被称为平台节点，Accelerator和EX扩展节点又被统称为扩展节点），十四小类：后端网络目前Isilon集群存储架构支持QDR的Infiniband交换机。支持的厂家包括Flextronics，QLogic，CISCO，Voltaire等。3.1.2分布式操作系统Isilon

16、是软硬件一体的解决方案提供商，其底层硬件结构是基于一种开放式结构的（参见上节，开放式结构）。硬件层之上是Isilon拥有完全版权的操作系统OneFS，它既是操作系统又是文件系统，是一种全分布的操作系统。OneFS 是Isilon 已经提出专利申请的分布式文件系统，为Isilon IQ 提供了核心智能特征。OneFS 通过使用一个分布式锁管理器、一个缓存和一个维持集群内全局一致性的区域管理器，来保持节点的同步。正是由于这种整个集群节点间的全局一致性，避免了访问文件系统时的单点故障。集群内的任何一个节点都能处理读写要求，都能代表整个文件系统的功能特色。集群内的所有节点都具有同等地位， 因此整个系统

17、是完全对称的，克服了节点的等级差异和内在的瓶颈。其他存储系统通过RAID和卷管理层来传输数据，产生了数据布局的低效率。而OneFS直接在单独的磁盘上控制文件的布置，通过优化文件在集群上的分配，极大地改善了磁盘子系统的性能。 通过以一个文件接着一个文件的方式在磁盘上布置数据，OneFS能在卷、目录甚至是文件的层级上来控制存储系统的冗余水平。OneFS还有其他几个特点和好处。FlexProtect-AP?软件提供了最新的功能性，能在短时间内重建发生故障的磁盘，利用整个集群内的空余存储空间来规避数据丢失的风险，主动地监控和抢先将数据从有风险的组件迁移出去。传统的企业存储系统将等值重建操作局限在存储系

18、统的子集内进行，这导致出现了恢复的瓶颈，增加了重新保护数据的时间，大大增加了当单个组件发生故障时数据丢失的风险。传统的RAID-5等值保护如果在重建工作完成之前如果出现多个组件故障，就会引起数据丢失。相比之下，FlexProtect-AP能自动地将所有的数据和错误更正信息分布到整个集群上，其高效可靠的错误更正技术保证了所有的数据保持完整，即使在同时出现多个组件故障的情况下也能被方便地被存取。在OneFS之外，有五个需要单独付费购买的模块：SnapShotIQ：Isilon SnapShotIQ 提供了秒级快照的解决方案，和其他厂商的快照方案不同的是，snapshotIQ是基于目录或者子目录层次

19、做快照；而且每个目录可以维护高达1024个快照；做快照不需要预留空间。SmartConnect：SmartConnect IQ提供了前端网络的负载均衡模式，可以提供Round Robin，CPU忙闲，网络吞吐量，网络连接数等四种均衡策略。另外对于NFS协议，SmartConnect提供了基于NFS协议的的IP failover方式，提供了对TCP连接的容错。SmartQuotas：Isilon SmartQuotas是空间访问限额模块，通过此模块可以对目录和用户实现空间限额。另外此模块，可以非常容易的加入客户环境中现有的AD，NIS，LDAP等用户控制域，更好的提供基于用户的访问空间限额。另外

20、还可以提供thin provisioning的功能，实现跨用户空间的共享。Aspera for Isilon IQ：此模块提供跨城域网WAN，快速数据同步的机制。SyncIQ：Isilon SyncIQ是用于异地容灾的模块，可以在两个集群存储之间同步数据。传统的文件系统使用集中服务器来管理多个存储资源，致使出现了存储系统内的依赖性，故障点和热点。使用OneFS操作系统软件，Isilon集群存储系统内的每个节点享有同等地位，因此任何节点都能处理请求。OneFS使用Infiniband?进行集群内通信和同步，使用拥有专利的B-tree技术，将所有数据(包括元数据)完全并行的分布到所有节点中，这样每

21、个节点都清楚整个文件系统的布局，以及每个文件和文件部分存放在哪个地方，不需要专门的元数据服务器，从而杜绝了其他存储架构出现元数据服务器热点问题。 在使用过程中，可以根据应用的需求，随时调整客户端可访问存储节点的数量。例如在网段一中，作业分为paradigm group1和paradigm group2，其中paradigm group1要求完成的时间更紧张些，通过实时的调整配置，而把尽量多的存储节点的数量优先让给group1的作业使用；如上图所示，可以调整配置，对于时间要求不太紧的paradigm group2作业，可以只让访问三个节点，而其他全部节点的处理能力都由paradigm group

22、1来使用。如果在使用过程中，有更多网段的客户端需要访问集群存储的节点，可以实时按照要求更改存储节点的网段配置，以满足不同数据访问的需求。3.1.3统一命名的空间真正的分布式单一全局命名空间与简单的命名空间综合不同，Isilon的OneFS分布式文件系统可以智能地将数据存放到集群的节点上，创建一个共享存储池，应用范围很广，包括对非结构化数据的制作、分析、传输和归档。 图 1 Isilon? IQ开放式系统架构示意图目前业界有很多存储也声明支持大容量（上P级）的统一命名空间，但是底层无一不是通过将若干卷挂载在一个根目录下来形成的大容量统一命名空间。这里试想传统存储的一个场景，假如A机头挂接了D1的

23、LUN，B机头挂接了D2的LUN。那么无论怎样将数据分布，通过B机头访问D1lun里面的数据，必然要通过A机头将数据从D1LUN读出，传给B机头，这样很容易出现存储热点问题。而Isilon集群存储则是将所有节点的存储空间通过专利技术整合到真正的单一文件系统OneFS中，因为是单一文件系统，就不会发生跨LUN而发生的性能问题。目前Isilon的集群存储，最少需要三个节点，最多支持144个节点（144的限制不是系统本身的上限，而是infiniband交换机端口数的上线，目前最多端口的IB交换机是144端口），最大单一文件系统的大小为2PB。当集群增加新的节点和容量后，Isilon? IQ专有的Au

24、toBalance功能会自动实时通过IB交换机平衡数据在集群节点上的分布，而且OneFS（单一文件系统）能够动态调节数据重新分布进程的级别，更好的利用存储和服务器的资源，为客户端提供更加有效的性能，最大化程度提高性能和存储利用率，消除停机时间。有了Isilon? IQ，当您升级存储系统时，再也不需要手动地迁移数据或者是改变应用逻辑了。3.1.4高性能Isilon集群存储的吞吐性能将随着节点的增加而增加，其曲线参见如下图形：根据实际测试结果，Isilon集群存储节点上的每个万兆以太网卡，大约可以提供1000MB/s的带宽。集群存储的聚合带宽，可以用1000MB/sx每节点千兆网卡数量x节点数来获

25、得。衡量一个存储架构的优劣，无外乎从读写两个方面来看，现举例说明Isilon集群存储读写操作的特点：某个客户端发起读写请求，通过核心交换机，向Isilon集群存储发起读写请求。以Isilon八个存储结点实例，Isilon分布式操作系统，内嵌SmartConnect模块是做负载均衡用的，从八个结点里头选择出目前最闲的结点来接收此次读写请求的文件，这个文件到了结点之后，并没有立刻写到磁盘上；此时OneFS会把这个文件自动地由分成八个小块（现在以八个结点举例），通过后端的IB交换机，带宽高，网络延迟小，通过IB交换机的内存级别拷贝功能把八小块数据分别写到其他节点各自的硬盘上。形象地举个例子，传统架构

26、数据要写到磁盘上，相当于一个人（一个机头）搬八个箱子，而Isilon集群存储是八个人搬八个箱子，效率和速度大大提高，这种并行架构决定了写的性能比一般的存储性能高很多。反过来看读一个文件，这个非常好理解，就是写的一个反过程，也就是充分利用了Infiniband的带宽和内存级别拷贝，从这个角度看，我们的集群存储给客户提供了非常高的读写性能。3.1.5易安装和管理Isilon集群存储易管理性体现在如下三个方面：安装简单传统的SAN和NAS存储在配置过程中，必然要提前做好规划工作，包括硬件上架，连线，存储网络配置，RAID group划分，HBA卡配置，SAN switch配置，LUN划分，卷划分，文

27、件系统创建等等。任何一步出现问题都会影响到存储的使用。而Isilon集群存储，因为采取了很多专利技术，在客户端看来没有任何RAID，LUN，Volume等这些概念，因此安装起来非常简单，只需要将所有硬件上架，连线，存储网络配置即可，存储系统就可以上线交付使用。下表是传统存储和Isilon安装步骤对比SAN + NAS headIsilonRack and cableRack and cablePlan volume layoutNetwork configurationPlan RAID group configurations What type of RAID?Share dataPlan

28、 fiber channel network?Install fiber channel switch?Install fiber channel network?Install HBA?Configure HBA?Configure RAID groups and spares?Initialize RAID group?Create volumes?Create LUNS?Format volumes?Install filesystem?Tune inodes to match file sizes?Network configuration?Share data?Continuousl

29、y balance system?What data to what volume?管理和配置简单Isilon集群存储的管理和配置非常简单，管理存储的精力不会随着存储容量的增加而增加。Isilon集群存储提供两种管理界面，一个是基于浏览器的管理界面，一个是全命令行的管理界面，功能完全一致。3.1.6扩容简易Isilon的单一文件系统OneFS，提供了非常好的扩展功能，在扩展节点的时候，不影响原有存储系统的使用，而且在60秒之内，新加入的节点空间就可以被客户端看到且可以使用当集群增加新的节点和容量后，Isilon? IQ专有的AutoBalance功能会自动实时通过IB交换机平衡数据在集群节点上

30、的分布，而且OneFS（单一文件系统）能够动态调节数据重新分布进程的级别，更好的利用存储和服务器的资源，为客户端提供更加有效的性能，最大化程度提高性能和存储利用率，消除停机时间。有了Isilon? IQ，当您升级存储系统时，再也不需要手动地迁移数据或者是改变应用逻辑了。下表是友商和Isilon扩容步骤的对比表SAN + NAS headIsilonRack and cableRack and cablePlan volume layoutPress button on front panelPlan RAID group configurations What type of RAID?Pla

31、n fiber channel network?Install fiber channel switch?Install fiber channel network?Install HBA?Configure HBA?Configure RAID groups and spares?Initialize RAID group?Create volumes?Create LUNS?Format volumes?Install filesystem?Tune inodes to match file sizes?Share data?Continuously balance system?Which of the many volumes does the data go?3.1.7数据安全性高Isilon集群存储的数据安全性非常高，可以提供两个级别的容错，第一个级别是节点级的容错，第二是针对文件夹数据保护还是用