关联规则挖掘.docx

1、关联规则挖掘 数据挖掘的其他基本功能介绍一、关联规则挖掘关联规则挖掘是挖掘数据库中和指标（项）之间有趣的关联规则或相关关系。关联规则挖掘具有很多应用领域，如一些研究者发现，超市交易记录中的关联规则挖掘对超市的经营决策是十分重要的。1、 基本概念设是项组合的记录，D为项组合的一个集合。如超市的每一张购物小票为一个项的组合（一个维数很大的记录），而超市一段时间内的购物记录就形成集合D。我们现在关心这样一个问题，组合中项的出现之间是否存在一定的规则，如A游泳衣，B太阳镜，但是得不到足够支持。在规则挖掘中涉及到两个重要的指标：、支持度支持度，显然，只有支持度较大的规则才是较有价值的规则。、置信度置信度

2、，显然只有置信度比较高的规则才是比较可靠的规则。因此，只有支持度与置信度均较大的规则才是比较有价值的规则。、一般地，关联规则可以提供给我们许多有价值的信息，在关联规则挖掘时，往往需要事先指定最小支持度与最小置信度。关联规则挖掘实际上真正体现了数据中的知识发现。如果一个规则满足最小支持度，则称这个规则是一个频繁规则；如果一个规则同时满足最小支持度与最小置信度，则通常称这个规则是一个强规则。关联规则挖掘的通常方法是：首先挖掘出所有的频繁规则，再从得到的频繁规则中挖掘强规则。在少量数据中进行规则挖掘我们可以采用采用简单的编程方法，而在大量数据中挖掘关联规则需要使用专门的数据挖掘软件。关联规则挖掘可以

3、使我们得到一些原来我们所不知道的知识。应用的例子：* 日本超市对交易数据库进行关联规则挖掘，发现规则：尿片啤酒，重新安排啤酒柜台位置，销量上升75%。* 英国超市的例子：大额消费者与某种乳酪。那么，证券市场上、期货市场上、或者上市公司中存在存在哪些关联规则，这些关联规则究竟说明了什么？关联规则挖掘通常比较适用与记录中的指标取离散值的情况，如果原始数据库中的指标值是取连续的数据，则在关联规则挖掘之前应该进行适当的数据离散化（实际上就是将某个区间的值对应于某个值），数据的离散化是数据挖掘前的重要环节，离散化的过程是否合理将直接影响关联规则的挖掘结果。参考文献1二、特征化与比较1、特征化是一种描述性

4、数据挖掘，特征化通过数据挖掘的方法提供给定数据汇集的简洁汇总，如银行优质客户的特征，从而发现潜在的优质客户；转向其他银行的优质客户的特征，从而设法留住可能会转向其他银行的优质客户，特征化在银行客户关系管理等领域具有很大作用。描述性数据挖掘特征化的基本原理、属性删除某一类的特征化就是找出某一类的共性，因此如果某个属性具有大量不同的值，而且每个值所占的比率都不能达到事先给定的临界值，同时在这个属性上没有概化操作符（指标上卷），则数据挖掘对其进行属性删除。、属性概化如果在属性上存在概化操作符，并且原属性取值没有达到事先给定的临界值，则数据挖掘就将这个属性概化到较高层次，即使原属性取值已经达到临界值，

5、数据挖掘也可以继续进行属性概化。通过属性删除和属性概化，可以得到特征化的数据挖掘。2、比较特征化是给定某一类样本的特征，而比较则是区分不同的类，比较又通常称为挖掘类比较。如信用卡诈骗者和非诈骗者，这两类信用卡持有者的比较。类比较通常是一个指定的类与一个其它的类、或者几个其它的类进行比较，类比较的基本方法是：首先在目标类上发觉特征，然后在对比类上进行同步概化，这样就可以挖掘类比较。特征化与类比较具有很广泛的应用领域。如：被外资并构公司与没有被外资并构公司进行类比较；不同审计意见的公司的类比较；信用卡诈骗与非诈骗类的比较；银行优质客户中忠诚客户与转向其他银行的原优质客户的比较；等等。参考文献2三、

6、聚类分析聚类分析就是根据样本之间的相似程度，将样本分成几个不同的类。如我国各城市社会经济发展程度的聚类分析，利用聚类分析研究我国女子成衣的尺寸标准。原来测量了成年女子14个部位的指标数据：上体长、手臂长、胸围、颈围、总肩宽、前胸宽、后背宽、前腰节高、后腰节高、总体长、身高、下体长、腰围、臀围。经过聚类分析发现可以聚集为几类，每类主要在反映身高与反映胖瘦上有所区别，这样就可以制定几种标准尺寸，可以照顾到我国绝大多数成年女子的购衣要求。聚类分析在金融领域中有广泛应用，如根据股票价格的波动情况，可以将股票分成不同的类，总共可以分成几类，各类包含哪些股票，每一类的特征是什么，这对投资者、尤其对投资基金

7、来说，可能就是很重要的信息。聚类分析也是分类，但是要划分的类是未知的，这是聚类分析与一般判别分析的区别。聚类分析的基本原理1、 样本间距离的度量距离采用绝对值距离、欧氏距离、切比雪夫距离等，其中：，利用距离可以度量不同样本之间的相似程度，在测量距离时，往往首先需要进行标准化变换，以消除量纲带来的影响。当指标为非数值指标时，2、 相似程度的测量最短距离法是测量相似程度的一种方法，利用最短距离法进行聚类分析的基本过程。采用测量相似程度的不同方法，所得到的聚类分析结果可能有所不同。在聚类分析中，希望得到的类数可以事先确定。聚类分析即可以对样本进行聚类，也可以对指标进行聚类，因此可以采用这样的思路来考

8、虑建立借款人违约概率预测模型。参考文献3数据挖掘的进一步案例：决策树与客户细分、客户关系管理近年来，数据挖掘成为一些企业进行客户关系管理的有力工具。比如，企业可以通过数据挖掘方式进行客户细分，从而进行更加行之有效的客户关系管理；又比如，发现潜在的优质客户、发现可能转向竞争对手的优质客户等。数据挖掘中有多种方法可用于客户细分与客户关系管理，决策树方法是其中之一，下面对此进行介绍。案例1：如何发现潜在的优质客户？基本思路：对已确定客户性质的银行客户数据，利用数据挖掘中的决策树方法可以进行优质客户细分（代表优质客户的每片叶子实际上就是优质客户的一种细分），即发现分别具有什么特征的客户会成为银行的优质

9、客户，将这些特征与新客户相对照，可以从新客户中发觉出潜在的优质客户。具体数据挖掘（略）案例2：可能转向竞争对手的客户有哪些特征，从而需要有针对性地开展工作。案例3：对贷款违约者的细分其它方面的应用例子：不按照医嘱服药（没有服完疗程）的患者细分* 一类患者认为如果过多服药会产生抗药性，这会使得他们真正需要服用药物时不再那么有用，因此病情稍有好转就停止服药；* 一类患者根本不相信药物是安全无害的，因此他们只服用使他们的症状减轻的剂量，当他们感觉好些了就马上停止服药。* 。数据挖掘的评分（评级）系统及其应用使用数据挖掘方法建立预测模型后，就可以用它来预测新的数据。通常情况下，一个好的模型会被使用许多

10、次，也可以用于对不同的数据集评分。从而满足应用的需要。案例：基于新资本协议框架的银行内部评级系统构建数据库：某银行客户借贷的原始记录数据库，包含数于千计的客户信息记录：是否违约（必要时需参照新资本协议的参考定义调整分类）、申请贷款时的企业的财务指标值和其他变量指标值。构建方案1：步骤如下：1、 数据整理；2、 指标的聚类分析，通过SAS软件实现；3、 各指标预测借款企业违约的信息含量测定信号、噪音差分析方法，通过数据挖掘软件实现；4、 预测指标的选取和原始指标到信号指标的转换；5、 基于信号数和信号预测能力的银行内部评级体系构建，按照新资本协议要求的等级数构建；6、 确定各信用等级借款人的违约

11、概率估计值（可以频率作为概率的估计值）；7、 参照巴塞尔协议对VaR模型检验的“三重区域”法检验对各信用等级借款人违约概率估计的准确性。8、 确定银行内部信用评级体系，确定各信用等级借款人的违约率估计值。9、 需要划分训练样本组与检验样本组。构建方案2：步骤如下：1、 数据整理；2、 指标的聚类分析，通过SAS软件实现；3、 各指标预测借款企业违约的信息含量测定信号、噪音差分析方法，通过数据挖掘软件实现；4、 预测指标的选取和原始指标到信号指标的转换；5、 利用决策数方法进行借款人信用等级细分；6、 适当合并细分的信用等级，建立银行内部信用评级体系；7、 确定各信用等级借款人的违约概率估计值（

12、可以频率作为概率的估计值）；8、 参照巴塞尔协议对VaR模型检验的“三重区域”法检验对各信用等级借款人违约概率估计的准确性。9、 确定银行内部信用评级体系，确定各信用等级借款人的违约率估计值。10、 需要划分训练样本组与检验样本组。构建方案3：步骤如下：1、 数据整理；2、 指标的聚类分析，通过SAS软件实现；3、 各指标预测借款企业违约的信息含量测定信号、噪音差分析方法，通过数据挖掘软件实现；4、 预测指标的选取和原始指标到信号指标的转换；5、 利用Logistic回归或Probit过程建立借款人违约概率预测模型；6、 基于模型给出的违约概率大小建立银行内部信用评级体系；7、 确定各信用等级借款人的违约概率估计值（可以频率作为概率的估计值）；8、 参照巴塞尔协议对VaR模型检验的“三重区域”法检验对各信用等级借款人违约概率估计的准确性。9、 确定银行内部信用评级体系，确定各信用等级借款人的违约率估计值。10、需要划分训练样本组与检验样本组。