聚类算法叙述.docx

聚类算法叙述.docx

《聚类算法叙述.docx》由会员分享，可在线阅读，更多相关《聚类算法叙述.docx（21页珍藏版）》请在冰豆网上搜索。

聚类算法叙述

基于划分聚类算法（partitionclustering）

k-means：

是一种典型的划分聚类算法，它用一个聚类的中心来代表一个簇，即在迭代过程中选择的聚点不一定是聚类中的一个点，该算法只能处理数值型数据

k-modes：

K-Means算法的扩展，采用简单匹配方法来度量分类型数据的相似度

k-prototypes：

结合了K-Means和K-Modes两种算法，能够处理混合型数据

k-medoids：

在迭代过程中选择簇中的某点作为聚点，PAM是典型的k-medoids算法

CLARA：

CLARA算法在PAM的基础上采用了抽样技术，能够处理大规模数据

CLARANS：

CLARANS算法融合了PAM和CLARA两者的优点，是第一个用于空间数据库的聚类算法

FocusedCLARAN：

采用了空间索引技术提高了CLARANS算法的效率

PCM：

模糊集合理论引入聚类分析中并提出了PCM模糊聚类算法

基于层次聚类算法：

CURE：

采用抽样技术先对数据集D随机抽取样本，再采用分区技术对样本进行分区，然后对每个分区局部聚类，最后对局部聚类进行全局聚类

ROCK：

也采用了随机抽样技术，该算法在计算两个对象的相似度时，同时考虑了周围对象的影响

CHEMALOEN（变色龙算法）：

首先由数据集构造成一个K-最近邻图Gk,再通过一个图的划分算法将图Gk划分成大量的子图,每个子图代表一个初始子簇,最后用一个凝聚的层次聚类算法反复合并子簇，找到真正的结果簇

SBAC：

SBAC算法则在计算对象间相似度时，考虑了属性特征对于体现对象本质的重要程度，对于更能体现对象本质的属性赋予较高的权值

BIRCH：

BIRCH算法利用树结构对数据集进行处理，叶结点存储一个聚类，用中心和半径表示，顺序处理每一个对象，并把它划分到距离最近的结点，该算法也可以作为其他聚类算法的预处理过程

BUBBLE：

BUBBLE算法则把BIRCH算法的中心和半径概念推广到普通的距离空间

BUBBLE-FM：

BUBBLE-FM算法通过减少距离的计算次数，提高了BUBBLE算法的效率

基于密度聚类算法：

DBSCAN：

DBSCAN算法是一种典型的基于密度的聚类算法，该算法采用空间索引技术来搜索对象的邻域，引入了“核心对象”和“密度可达”等概念，从核心对象出发，把所有密度可达的对象组成一个簇

GDBSCAN：

算法通过泛化DBSCAN算法中邻域的概念，以适应空间对象的特点

DBLASD：

OPTICS：

OPTICS算法结合了聚类的自动性和交互性，先生成聚类的次序，可以对不同的聚类设置不同的参数，来得到用户满意的结果

FDC：

FDC算法通过构造k-dtree把整个数据空间划分成若干个矩形空间，当空间维数较少时可以大大提高DBSCAN的效率

基于网格的聚类算法：

STING：

利用网格单元保存数据统计信息，从而实现多分辨率的聚类

WaveCluster：

在聚类分析中引入了小波变换的原理，主要应用于信号处理领域。

（备注：

小波算法在信号处理，图形图像，加密解密等领域有重要应用，是一种比较高深和牛逼的东西）

CLIQUE：

是一种结合了网格和密度的聚类算法

OPTIGRID：

基于神经网络的聚类算法：

自组织神经网络SOM：

该方法的基本思想是--由外界输入不同的样本到人工的自组织映射网络中，一开始时，输入样本引起输出兴奋细胞的位置各不相同，但自组织后会形成一些细胞群，它们分别代表了输入样本，反映了输入样本的特征

基于统计学的聚类算法：

COBWeb：

COBWeb是一个通用的概念聚类方法，它用分类树的形式表现层次聚类

CLASSIT：

AutoClass：

是以概率混合模型为基础，利用属性的概率分布来描述聚类，该方法能够处理混合型的数据，但要求各属性相互独立

---------------------------------------------------------

几种常用的聚类算法从可伸缩性、适合的数据类型、高维性（处理高维数据的能力）、异常数据的抗干扰度、聚类形状和算法效率6个方面进行了综合性能评价，评价结果如表1所示：

算法名称

可伸缩性

适合的数据类型

高维性

异常数据的抗干扰性

聚类形状

算法效率

WaveCluster

很高

数值型

很高

较高

任意形状

很高

ROCK 

很高 

混合型 

很高

很高 

任意形状

一般

BIRCH

较高 

数值型 

较低 

较低 

球形 

很高

CURE 

较高 

数值型 

一般 

很高 

任意形状 

较高

K-Prototypes 

一般 

混合型 

较低 

较低 

任意形状 

一般

DENCLUE 

较低 

数值型 

较高 

一般 

任意形状 

较高

OptiGrid 

一般 

数值型 

较高 

一般 

任意形状 

一般

CLIQUE 

较高 

数值型 

较高 

较高 

任意形状 

较低

DBSCAN 

一般 

数值型 

较低 

较高 

任意形状 

一般

CLARANS 

较低 

数值型 

较低  

较高 

球形  

较低

---------------------------------------------------------

目前聚类分析研究的主要内容：

对聚类进行研究是数据挖掘中的一个热门方向，由于以上所介绍的聚类方法都存在着某些缺点，因此近些年对于聚类分析的研究很多都专注于改进现有的聚类方法或者是提出一种新的聚类方法。

以下将对传统聚类方法中存在的问题以及人们在这些问题上所做的努力做一个简单的总结：

1从以上对传统的聚类分析方法所做的总结来看，不管是k-means方法，还是CURE方法，在进行聚类之前都需要用户事先确定要得到的聚类的数目。

然而在现实数据中，聚类的数目是未知的，通常要经过不断的实验来获得合适的聚类数目，得到较好的聚类结果。

2传统的聚类方法一般都是适合于某种情况的聚类，没有一种方法能够满足各种情况下的聚类，比如BIRCH方法对于球状簇有很好的聚类性能，但是对于不规则的聚类，则不能很好的工作；K-medoids方法不太受孤立点的影响，但是其计算代价又很大。

因此如何解决这个问题成为当前的一个研究热点，有学者提出将不同的聚类思想进行融合以形成新的聚类算法，从而综合利用不同聚类算法的优点，在一次聚类过程中综合利用多种聚类方法，能够有效的缓解这个问题。

3随着信息时代的到来，对大量的数据进行分析处理是一个很庞大的工作，这就关系到一个计算效率的问题。

有文献提出了一种基于最小生成树的聚类算法，该算法通过逐渐丢弃最长的边来实现聚类结果，当某条边的长度超过了某个阈值，那么更长边就不需要计算而直接丢弃，这样就极大地提高了计算效率，降低了计算成本。

4处理大规模数据和高维数据的能力有待于提高。

目前许多聚类方法处理小规模数据和低维数据时性能比较好，但是当数据规模增大，维度升高时，性能就会急剧下降，比如k-medoids方法处理小规模数据时性能很好，但是随着数据量增多，效率就逐渐下降，而现实生活中的数据大部分又都属于规模比较大、维度比较高的数据集。

有文献提出了一种在高维空间挖掘映射聚类的方法PCKA（ProjectedClusteringbasedontheK-MeansAlgorithm），它从多个维度中选择属性相关的维度，去除不相关的维度，沿着相关维度进行聚类，以此对高维数据进行聚类。

5目前的许多算法都只是理论上的，经常处于某种假设之下，比如聚类能很好的被分离，没有突出的孤立点等，但是现实数据通常是很复杂的，噪声很大，因此如何有效的消除噪声的影响，提高处理现实数据的能力还有待进一步的提高。

经典算法研究系列：

七、深入浅出遗传算法

分类：

 01.Algorithms（研究）2011-01-1220:

57 49922人阅读 评论（68） 收藏 举报

算法优化生物图像处理数据挖掘

经典算法研究系列：

七、深入浅出遗传算法

作者:

July    二零一一年一月十二日。

本文参考：

维基百科  华南理工大学电子讲义  互联网

-------------------------------------------------------------------------------

一、初探遗传算法

Ok，先看维基百科对遗传算法所给的解释：

遗传算法是计算数学中用于解决最优化的搜索算法，是进化算法的一种。

进化算法最初是借鉴了进化生物学中的一些现象而发展起来的，这些现象包括遗传、突变、自然选择以及杂交等。

遗传算法通常实现方式为一种计算机模拟。

对于一个最优化问题，一定数量的候选解（称为个体）的抽象表示（称为染色体）的种群向更好的解进化。

传统上，解用二进制表示（即0和1的串），但也可以用其他表示方法。

进化从完全随机个体的种群开始，之后一代一代发生。

在每一代中，整个种群的适应度被评价，从当前种群中随机地选择多个个体（基于它们的适应度），通过自然选择和突变产生新的生命种群，该种群在算法的下一次迭代中成为当前种群。

光看定义，可能思路并不清晰，咱们来几个清晰的图解、步骤、公式：

基本遗传算法的框图：

所以，遗传算法基本步骤是：

1）  初始化   t←0进化代数计数器；T是最大进化代数；随机生成M个个体作为初始群体    P（t）；

2）  个体评价 计算P（t）中各个个体的适应度值；

3）  选择运算 将选择算子作用于群体；

4）  交叉运算 将交叉算子作用于群体；

5）  变异运算 将变异算子作用于群体，并通过以上运算得到下一代群体P（t + 1）;

6）  终止条件判断  t≦T：

t← t+1 转到步骤2；

               t>T：

终止 输出解。

好的，看下遗传算法的伪代码实现：

▲Procedures  GA：

   伪代码

begin

       initialize P（0）;

       t = 0;             //t是进化的代数，一代、二代、三代...

       while（t <= T） do

              for i = 1 to M  do    //M是初始种群的个体数

                     Evaluate fitness of P（t）;  //计算P（t）中各个个体的适应度

              end for

              for i = 1 to M  do

                     Select operation to P（t）;  //将选择算子作用于群体

              end for

              for i = 1 to M/2  do

                     Crossover operation to P（t）; //将交叉算子作用于群体

              end for

              for i = 1 to M  do

                     Mutation operation to P（t）;  //将变异算子作用于群体

              end for