基于消息的分布式架构.docx
《基于消息的分布式架构.docx》由会员分享，可在线阅读，更多相关《基于消息的分布式架构.docx（23页珍藏版）》请在冰豆网上搜索。
基于消息的分布式架构
美国计算机科学家，LaTex的作者LeslieLamport说：
“分布式系统就是这样一个系统，系统中一个你甚至都不知道的计算机出了故障，却可能导致你自己的计算机不可用。
”一语道破了开发分布式系统的玄机，那就是它的复杂与不可控。
所以MartinFowler强调：
分布式调用的第一原则就是不要分布式。
这句话看似颇具哲理，然而就企业应用系统而言，只要整个系统在不停地演化，并有多个子系统共同存在时，这条原则就会被迫打破。
盖因为在当今的企业应用系统中，很难寻找到完全不需要分布式调用的场景。
MartinFowler提出的这条原则，一方面是希望设计者能够审慎地对待分布式调用，另一方面却也是分布式系统自身存在的缺陷所致。
无论是CORBA，还是EJB2；无论是RPC平台，还是WebService，都因为驻留在不同进程空间的分布式组件，而引入额外的复杂度，并可能对系统的效率、可靠性、可预测性等诸多方面带来负面的影响。
然而，不可否认的是在企业应用系统领域，我们总是会面对不同系统之间的通信、集成与整合，尤其当面临异构系统时，这种分布式的调用与通信变得越重要，它在架构设计中就更加凸显其价值。
并且，从业务分析与架构质量的角度来讲，我们也希望在系统架构中尽可能地形成对服务的重用，通过独立运行在进程中服务的形式，彻底解除客户端与服务端的耦合。
这常常是架构演化的必然道路。
在我的同事陈金洲发表在InfoQ上的文章《架构腐化之谜》中，就认为可以通过“将独立的模块放入独立的进程”来解决架构因为代码规模变大而腐化的问题。
随着网络基础设施的逐步成熟，从RPC进化到WebService，并在业界开始普遍推行SOA，再到后来的RESTful平台以及云计算中的PaaS与SaaS概念的推广，分布式架构在企业应用中开始呈现出不同的风貌，然而殊途同归，这些分布式架构的目标仍然是希望回到建造巴别塔的时代，系统之间的交流不再为不同语言与平台的隔阂而产生障碍。
正如MartinFowler在《企业集成模式》一书的序中写道：
“集成之所以重要是因为相互独立的应用是没有生命力的。
我们需要一种技术能将在设计时并未考虑互操作的应用集成起来，打破它们之间的隔阂，获得比单个应用更多的效益”。
这或许是分布式架构存在的主要意义。
1、集成模式中的消息模式
归根结底，企业应用系统就是对数据的处理，而对于一个拥有多个子系统的企业应用系统而言，它的基础支撑无疑就是对消息的处理。
与对象不同，消息本质上是一种数据结构（当然，对象也可以看做是一种特殊的消息），它包含消费者与服务双方都能识别的数据，这些数据需要在不同的进程（机器）之间进行传递，并可能会被多个完全不同的客户端消费。
在众多分布式技术中，消息传递相较文件传递与远程过程调用（RPC）而言，似乎更胜一筹，因为它具有更好的平台无关性，并能够很好地支持并发与异步调用。
对于WebService与RESTful而言，则可以看做是消息传递技术的一种衍生或封装。
在《面向模式的软件架构（卷四）》一书中，将关于消息传递的模式划归为分布式基础设施的范畴，这是因为诸多消息中间件产品的出现，使得原来需要开发人员自己实现的功能，已经可以直接重用。
这极大地降低了包括设计成本、实现成本在内的开发成本。
因此，对于架构师的要求也就从原来的设计实现，转变为对业务场景和功能需求的判断，从而能够正确地进行架构决策、技术选型与模式运用。
常用的消息模式
在我参与过的所有企业应用系统中，无一例外地都采用（或在某些子系统与模块中部分采用）了基于消息的分布式架构。
但是不同之处在于，让我们做出架构决策的证据却迥然而异，这也直接影响我们所要应用的消息模式。
消息通道（MessageChannel）模式
我们常常运用的消息模式是MessageChannel（消息通道）模式，如图1所示。
图1MessageChannel模式（图片来自eaipatterns）
消息通道作为在客户端（消费者，Consumer）与服务（生产者，Producer）之间引入的间接层，可以有效地解除二者之间的耦合。
只要实现规定双方需要通信的消息格式，以及处理消息的机制与时机，就可以做到消费者对生产者的“无知”。
事实上，该模式可以支持多个生产者与消费者。
例如，我们可以让多个生产者向消息通道发送消息，因为消费者对生产者的无知性，它不必考虑究竟是哪个生产者发来的消息。
虽然消息通道解除了生产者与消费者之间的耦合，使得我们可以任意地对生产者与消费者进行扩展，但它又同时引入了各自对消息通道的依赖，因为它们必须知道通道资源的位置。
要解除这种对通道的依赖，可以考虑引入Lookup服务来查找该通道资源。
例如，在JMS中就可以通过JNDI来获取消息通道Queue。
若要做到充分的灵活性，可以将与通道相关的信息存储到配置文件中，Lookup服务首先通过读取配置文件来获得通道。
消息通道通常以队列的形式存在，这种先进先出的数据结构无疑最为适合这种处理消息的场景。
微软的MSMQ、IBMMQ、JBossMQ以及开源的RabbitMQ、ApacheActiveMQ都通过队列实现了MessageChannel模式。
因此，在选择运用MessageChannel模式时，更多地是要从质量属性的层面对各种实现了该模式的产品进行全方位的分析与权衡。
例如，消息通道对并发的支持以及在性能上的表现；消息通道是否充分地考虑了错误处理；对消息安全的支持；以及关于消息持久化、灾备（failover）与集群等方面的支持。
因为通道传递的消息往往是一些重要的业务数据，一旦通道成为故障点或安全性的突破点，对系统就会造成灾难性的影响。
在本文的第二部分，我将给出一个实际案例来阐释在进行架构决策时应该考虑的架构因素，并由此做出正确地决策。
发布者-订阅者（Publisher-Subscriber）模式
一旦消息通道需要支持多个消费者时，就可能面临两种模型的选择：
拉模型与推模型。
拉模型是由消息的消费者发起的，主动权把握在消费者手中，它会根据自己的情况对生产者发起调用。
如图2所示：
图2拉模型
拉模型的另一种体现则由生产者在状态发生变更时，通知消费者其状态发生了改变。
但得到通知的消费者却会以回调方式，通过调用传递过来的消费者对象获取更多细节消息。
在基于消息的分布式系统中，拉模型的消费者通常以BatchJob的形式，根据事先设定的时间间隔，定期侦听通道的情况。
一旦发现有消息传递进来，就会转而将消息传递给真正的处理器（也可以看做是消费者）处理消息，执行相关的业务。
在本文第二部分介绍的医疗卫生系统，正是通过引入Quartz.NET实现了BatchJob，完成对消息通道中消息的处理。
推模型的主动权常常掌握在生产者手中，消费者被动地等待生产者发出的通知，这就要求生产者必须了解消费者的相关信息。
如图3所示：
图3推模型
对于推模型而言，消费者无需了解生产者。
在生产者通知消费者时，传递的往往是消息（或事件），而非生产者自身。
同时，生产者还可以根据不同的情况，注册不同的消费者，又或者在封装的通知逻辑中，根据不同的状态变化，通知不同的消费者。
两种模型各有优势。
拉模型的好处在于可以进一步解除消费者对通道的依赖，通过后台任务去定期访问消息通道。
坏处是需要引入一个单独的服务进程，以Schedule形式执行。
而对于推模型而言，消息通道事实上会作为消费者观察的主体，一旦发现消息进入，就会通知消费者执行对消息的处理。
无论推模型，拉模型，对于消息对象而言，都可能采用类似Observer模式的机制，实现消费者对生产者的订阅，因此这种机制通常又被称为Publisher-Subscriber模式，如图4所示：
图4Publisher-Subscriber模式（图片来自eaipatterns）
通常情况下，发布者和订阅者都会被注册到用于传播变更的基础设施（即消息通道）上。
发布者会主动地了解消息通道，使其能够将消息发送到通道中；消息通道一旦接收到消息，会主动地调用注册在通道中的订阅者，进而完成对消息内容的消费。
对于订阅者而言，有两种处理消息的方式。
一种是广播机制，这时消息通道中的消息在出列的同时，还需要复制消息对象，将消息传递给多个订阅者。
例如，有多个子系统都需要获取从CRM系统传来的客户信息，并根据传递过来的客户信息，进行相应的处理。
此时的消息通道又被称为Propagation通道。
另一种方式则属于抢占机制，它遵循同步方式，在同一时间只能有一个订阅者能够处理该消息。
实现Publisher-Subscriber模式的消息通道会选择当前空闲的唯一订阅者，并将消息出列，并传递给订阅者的消息处理方法。
目前，有许多消息中间件都能够很好地支持Publisher-Subscriber模式，例如JMS接口规约中对于Topic对象提供的MessagePublisher与MessageSubscriber接口。
RabbitMQ也提供了自己对该模式的实现。
微软的MSMQ虽然引入了事件机制，可以在队列收到消息时触发事件，通知订阅者。
但它并非严格意义上的Publisher-Subscriber模式实现。
由微软MVPUdiDahan作为主要贡献者的NServiceBus，则对MSMQ以及WCF做了进一层包装，并能够很好地实现这一模式。
消息路由（MessageRouter）模式
无论是MessageChannel模式，还是Publisher-Subscriber模式，队列在其中都扮演了举足轻重的角色。
然而，在企业应用系统中，当系统变得越来越复杂时，对性能的要求也会越来越高，此时对于系统而言，可能就需要支持同时部署多个队列，并可能要求分布式部署不同的队列。
这些队列可以根据定义接收不同的消息，例如订单处理的消息，日志信息，查询任务消息等。
这时，对于消息的生产者和消费者而言，并不适宜承担决定消息传递路径的职责。
事实上，根据S单一职责原则，这种职责分配也是不合理的，它既不利于业务逻辑的重用，也会造成生产者、消费者与消息队列之间的耦合，从而影响系统的扩展。
既然这三种对象（组件）都不宜承担这样的职责，就有必要引入一个新的对象专门负责传递路径选择的功能，这就是所谓的MessageRouter模式，如图5所示：
图5MessageRouter模式（图片来自eaipatterns）
通过消息路由，我们可以配置路由规则指定消息传递的路径，以及指定具体的消费者消费对应的生产者。
例如指定路由的关键字，并由它来绑定具体的队列与指定的生产者（或消费者）。
路由的支持提供了消息传递与处理的灵活性，也有利于提高整个系统的消息处理能力。
同时，路由对象有效地封装了寻找与匹配消息路径的逻辑，就好似一个调停者（Meditator），负责协调消息、队列与路径寻址之间关系。
除了以上的模式之外，Messaging模式提供了一个通信基础架构，使得我们可以将独立开发的服务整合到一个完整的系统中。
MessageTranslator模式则完成对消息的解析，使得不同的消息通道能够接收和识别不同格式的消息。
而且通过引入这样的对象，也能够很好地避免出现盘根错节，彼此依赖的多个服务。
MessageBus模式可以为企业提供一个面向服务的体系架构。
它可以完成对消息的传递，对服务的适配与协调管理，并要求这些服务以统一的方式完成协作。
2、消息模式的应用场景
基于消息的分布式架构总是围绕着消息来做文章。
例如可以将消息封装为对象，或者指定消息的规范例如SOAP，或者对实体对象的序列化与反序列化。
这些方式的目的只有一个，就是将消息设计为生产者和消费者都能够明白的格式，并能通过消息通道进行传递。
场景一：
基于消息的统一服务架构
在制造工业的CIMS系统中，我们尝试将各种业务以服务的形式公开给客户端的调用者，例如定义这样的接口：
publicinterfaceIService{
IMessageExecute（IMessageaMessage）;
voidSendRequest（IMessageaMessage）;
}
之所以能够设计这样的服务，原因在于我们对业务信息进行了高度的抽象，以消息的形式在服务之间传递。
此时的消息其实是生产者与消费者之间的契约或接口，只要遵循这样的契约，按照规定的格式对消息进行转换与抽取，就能很好地支持系统的分布式处理。
在这个CIMS系统中，我们将消息划分为ID，Name和Body，通过定义如下的接口方法，可以获得消息主体的相关属性：
publicinterfaceIMessage:
ICloneable
{
stringMessageID{get;set;}
stringMessageName（）{get;set;}
IMessageItemSequenceCreateMessageBody（）;
IMessageItemSequenceGetMessageBody（）;
}
消息主体类Message实现了IMessage接口。
在该类中，消息体Body为IMessageItemSequence类型。
这个类型用于获取和设置消息的内容：
Value和Item：
publicinterfaceIItemValueSetting{
stringgetSubValue（stringname）;
voidsetSubValue（stringname,stringvalue）;
}
publicinterfaceIMessageItemSequence:
IItemValueSetting,ICloneable
{
IMessageItemGetMessageItem（stringaName）;
IMessageItemCreateMessageItem（stringaName）;
}
Value为字符串类型，它利用了HashTable存储Key和Value的键值对。
Item则为IMessageItem类型，在IMessageItemSequence的实现类中，同样利用了HashTable存储Key和Item的键值对。
IMessageItem支持消息体的嵌套。
它包含了两部分：
SubValue和SubItem。
实现的方式和IMessageItemSequence相似。
通过定义这样的嵌套结构，使得消息的扩展成为可能。
一般的消息结构如下所示：
IMessage——Name
——ID
——Body（IMessageItemSequence）
——Value
——Item（IMessageItem）
——SubValue
——SubItem（IMessageItem）
——……
各个消息对象之间的关系如图6所示：
图6消息对象之间的关系
在实现服务进程通信之前，我们必须定义好各个服务或各个业务的消息格式。
通过消息体的方法在服务的一端设置消息的值，然后发送，并在服务的另一端获得这些值。
例如发送消息端定义如下的消息体：
IMessageFactoryfactory=newMessageFactory（）;
IMessagemessage=factory.CreateMessage（）;
message.SetMessageName（"service1"）;
IMessageItemSequencebody=message.CreateMessageBody（）;
body.SetSubValue（"subname1","subvalue1"）;
body.SetSubValue（"subname2","subvalue2"）;
IMessageItemitem1=body.CreateMessageItem（”item1”）;
item1.SetSubValue（"subsubname11","subsubvalue11"）;
item1.SetSubValue（"subsubname12","subsubvalue12"）;
//SendRequestMessage
MyServiceClientservice=newMyServiceClient（"Client"）;
service.SendRequest（message）;
我们在客户端引入了一个ServiceLocator对象，它通过MessageQueueListener对消息队列进行侦听，一旦接收到消息，就获取该消息中的name去定位它所对应的服务，然后调用服务的Execute（aMessage）方法，执行相关的业务。
ServiceLocator承担的定位职责其实是对存储在ServiceContainer容器中的服务进行查询。
ServiceContainer容器可以读取配置文件，在启动服务的时候初始化所有的分布式服务（注意，这些服务都是无状态的），并对这些服务进行管理。
它封装了服务的基本信息，诸如服务所在的位置，服务的部署方式等，从而避免服务的调用者直接依赖于服务的细节，既减轻了调用者的负担，还能够较好地实现服务的扩展与迁移。
在这个系统中，我们主要引入了Messaging模式，通过定义的IMessage接口，使得我们更好地对服务进行抽象，并以一种扁平的格式存储数据信息，从而解除服务之间的耦合。
只要各个服务就共用的消息格式达成一致，请求者就可以不依赖于接收者的具体接口。
通过引入的Message对象，我们就可以建立一种在行业中通用的消息模型与分布式服务模型。
事实上，基于这样的一个框架与平台，在对制造行业的业务进行开发时，开发人员最主要的活动是与领域专家就各种业务的消息格式进行讨论，这样一种面向领域的消息语言，很好地扫清了技术人员与业务人员的沟通障碍；同时在各个子系统之间，我们也只需要维护服务间相互传递的消息接口表。
每个服务的实现都是完全隔离的，有效地做到了对业务知识与基础设施的合理封装与隔离。
对于消息的格式和内容，我们考虑引入了MessageTranslator模式，负责对前面定义的消息结构进行翻译和解析。
为了进一步减轻开发人员的负担，我们还可以基于该平台搭建一个消息-对象-关系的映射框架，引入实体引擎（EntityEngine）将消息转换为领域实体，使得服务的开发者能够以完全面向对象的思想开发各个服务组件，并通过调用持久层实现消息数据的持久化。
同时，利用消息总线（此时的消息总线可以看做是各个服务组件的连接器）连接不同的服务，并允许异步地传递消息，对消息进行编码。
这样一个基于消息的分布式架构如图7所示：
图7基于MessageBus的CIMS分布式架构
场景二：
消息中间件的架构决策
在一个医疗卫生系统中，我们面临了客户对系统性能/可用性的非功能需求。
在我们最初启动该项目时，客户就表达了对性能与可用性的特别关注。
客户希望最终用户在进行复杂的替换删除操作时，能够具有很好的用户体验，简言之，就是希望能够快速地得到操作的响应。
问题在于这样的替换删除操作需要处理比较复杂的业务逻辑，同时牵涉到的关联数据量非常大，整个操作若需完成，最坏情况下可能需要几分钟的时间。
我们可以通过引入缓存、索引、分页等多种方式对数据库操作进行性能调优，但整个操作的耗时始终无法达到客户的要求。
由于该系统是在一个遗留系统的基础上开发，如果要引入Map-Reduce来处理这些操作，以满足质量需求，则对架构的影响太大，且不能很好地重用之前系统的某些组件。
显然，付出的成本与收益并不成正比。
通过对需求进行分析，我们注意到最终客户并不需要实时获得结果，只要能够保证最终结果的一致性和完整性即可。
关键在于就用户体验而言，他们不希望经历漫长的等待，然后再通知他们操作究竟是成功还是失败。
这是一个典型需要通过后台任务进行异步处理的场景。
在企业应用系统中，我们常常会遭遇这样的场景。
我们曾经在一个金融系统中尝试通过自己编写任务的方式来控制后台线程的并发访问，并完成对任务的调度。
事实证明，这样的设计并非行之有效。
对于这种典型的异步处理来说，基于消息传递的架构模式才是解决这一问题的最佳办法。
因为消息中间件的逐步成熟，对于这一问题的架构设计，已经由原来对设计实现的关注转为如何进行产品选型和技术决策。
例如，在.NET平台下，架构师需要重点考虑的是应该选择哪种消息中间件来处理此等问题？
这就需要我们必须结合具体的业务场景，来识别这种异步处理方式的风险，然后再根据这些风险去比较各种技术，以求寻找到最适合的方案。
通过分析业务场景以及客户性质，我们发现该业务场景具有如下特征：
∙在一些特定情形下，可能会集中发生批量的替换删除操作，使得操作的并发量达到高峰；例如FDA要求召回一些违规药品时，就需要删除药品库中该药品的信息；
∙操作结果不要求实时性，但需要保证操作的可靠性，不能因为异常失败而导致某些操作无法进行；
∙自动操作的过程是不可逆转的，因此需要记录操作历史；
∙基于性能考虑，大多数操作需要调用数据库的存储过程；
∙操作的数据需要具备一定的安全性，避免被非法用户对数据造成破坏；
∙与操作相关的功能以组件形式封装，保证组件的可重用性、可扩展性与可测试性；
∙数据量可能随着最终用户的增多而逐渐增大；
针对如上的业务需求，我们决定从以下几个方面对各种技术方案进行横向的比较与考量。
∙并发：
选择的消息队列一定要很好地支持用户访问的并发性；
∙安全：
消息队列是否提供了足够的安全机制；
∙性能伸缩：
不能让消息队列成为整个系统的单一性能瓶颈；
∙部署：
尽可能让消息队列的部署更为容易；
∙灾备：
不能因为意外的错误、故障或其他因素导致处理数据的丢失；
∙API易用性：
处理消息的API必须足够简单、并能够很好地支持测试与扩展；
我们先后考察了MSMQ、Resque、ActiveMQ和RabbitMQ，通过查询相关资料，以及编写Spike代码验证相关质量，我们最终选择了RabbitMQ。
我们选择放弃MSMQ，是因为它严重依赖Windows操作系统；它虽然提供了易用的GUI方便管理人员对其进行安装和部署，但若要编写自动化部署脚本，却非常困难。
同时，MSMQ的队列容量不能查过4M字节，这也是我们无法接收的。
Resque的问题是目前仅支持Ruby的客户端调用，不能很好地与.NET平台集成。
此外，Resque对消息持久化的处理方式是写入到Redis中，因而需要在已有RDBMS的前提下，引入新的Storage。
我们比较倾心于ActiveMQ与RabbitMQ，但通过编写测试代码，采用循环发送大数据消息以验证消息中间件的性能与稳定性时，我们发现ActiveMQ的表现并不太让人满意。
至少，在我们的询证调研过程中，ActiveMQ会因为频繁发送大数据消息而偶尔出现崩溃的情况。
相对而言，RabbitMQ在各个方面都比较适合我们的架构要求。
例如在灾备与稳定性方面，RabbitMQ提供了可持久化的队列，能够在队列服务崩溃的时候，将未处理的消息持久化到磁盘上。
为了避免因为发送消息到写入消息之间的延迟导致信息丢失，RabbitMQ引入了PublisherConfirm机制以确保消息被真正地写入到磁盘中。
它对Cluster的支持提供了Active/Passive与Active/Active两种模式。
例如，在Active/Passive模式下，一旦一个节点失败，Passive节点就会马上被激活，并迅速替代失败的Active节点，承担起消息传递的职责。
如图8所示：
图8Active/PassiveCluster（图片来自RabbitMQ官方网站）
在并发处理方面，RabbitMQ本身是基于erlang编写的消息中间件，作为一门面向并发处理的编程语言，erlang对并发处理的天生优势使得我们对RabbitMQ的并发特性抱有信心。
RabbitMQ可以非
升级会员 