数据挖掘原理与算法.pptx

数据挖掘原理与算法.pptx

《数据挖掘原理与算法.pptx》由会员分享，可在线阅读，更多相关《数据挖掘原理与算法.pptx（54页珍藏版）》请在冰豆网上搜索。

,数据挖掘原理与算法,1,2020年4月7日星期二,DMKDSidesByMAO,By毛国君，段立娟，王石，石云Pub.清华大学出版社，2004使用说明：

本书是一本全面介绍数据挖掘和知识发现技术的专业书籍，可作为计算机专业研究生或高年级本科生教材。

共分8章，各章相对独立成篇，以利于读者选择性学习。

本课件供全书讲解之用，为了取得好的教学效果，教师应该根据学生层次、教学大纲或课时安排进行必要裁减。

第一章绪论,2,2020年4月7日星期二,DMKDSidesByMAO,内容提要数据挖掘技术的产生与发展数据挖掘研究的发展趋势数据挖掘概念数据挖掘技术的分类问题数据挖掘常用的知识表示模式与方法不同数据存储形式下的数据挖掘问题粗糙集方法及其在数据挖掘中的应用数据挖掘的应用分析,数据挖掘技术的商业需求分析,3,2020年4月7日星期二,DMKDSidesByMAO,随着信息技术的高速发展，数据库应用的规模、范围和深度不断扩大，网络环境成为主流等等。

产生“数据丰富而信息贫乏（DataRich&InformationPoor）”现象。

在强大的商业需求的驱动下，商家们开始注意到有效地解决大容量数据的利用问题具有巨大的商机；学者们开始思考如何从大容量数据集中获取有用信息和知识的方法。

随着信息技术的高速发展，人们希望能够提供更高层次的数据处理功能。

新的需求推动新的技术的诞生。

数据（Data）、信息（Information）和知识（Knowledge）是广义数据表现的不同形式。

数据、信息和知识,4,2020年4月7日星期二,DMKDSidesByMAO,data,information,knowledge,数据挖掘产生的技术背景,5,2020年4月7日星期二,DMKDSidesByMAO,数据挖掘是相关学科充分发展的基础上被提出和发展的。

主要的相关技术：

数据库等信息技术的发展统计学深入应用人工智能技术的研究和应用,数据挖掘是一个多学科交叉技术,6,2020年4月7日星期二,DMKDSidesByMAO,DataMining,DatabaseTechnology,Statistics,OtherDisciplines,InformationScience,AI/MachineLearning,Visualization,数据库系统的发展,7,2020年4月7日星期二,DMKDSidesByMAO,60年代：

简单文件处理系统向数据库系统变革。

70年代：

层次、网络和关系型数据库普及。

80年代：

RDBS及其相关工具、数据索引及数据组织技术被广泛采用；中期开始，分布式数据库广发讨论，关系数据库技术和新型技术的结合。

90年代：

数据库领域中的新内容、新应用、新技术层出不穷，形成了庞大的数据库家族；人们期望分析预测、决策支持等高级应用，Datamininganddatawarehousing等出现。

本世纪开始：

Datamining得到理论/技术深化。

统计学的深入应用,8,2020年4月7日星期二,DMKDSidesByMAO,强大有效的数理统计方法和工具，已成为信息咨询业的基础。

统计分析技术是基于严格的数学理论和高超的应用技巧的。

数据挖掘技术是数理统计分析应用的延伸和发展。

和数据库技术的结合性研究,人工智能技术的研究和应用,9,2020年4月7日星期二,DMKDSidesByMAO,人工智能是计算机科学研究中争议最多而又仍始终保持强大生命的研究领域。

专家系统曾经是人工智能研究工作者的骄傲，但,是诸多难题限制了专家系统的应用：

知识获取成为专家系统研究中公认的瓶颈问题。

知识表示成为一大难题：

知识工程师在整理表达从领域专家那里获得的知识时勉强抽象出来的规则有很强的工艺色彩。

对常识和百科知识出奇地贫乏：

人工智能学家Feigenbaum估计，一般人拥有的常识存入计算机大约有100万条事实和抽象经验法则，离开常识的专家系统有时会比傻子还傻。

数据挖掘继承了专家系统的高度实用性特点，并且以数据为基本出发点，客观地挖掘知识。

机器学习得到了充分的研究和发展：

理论和算法。

数据挖掘研究在继承已有的人工智能相关领域，特别是机器学习的研究成果的基础上，成为新的研究分支。

第一章绪论,10,2020年4月7日星期二,DMKDSidesByMAO,内容提要数据挖掘技术的产生与发展数据挖掘研究的发展趋势数据挖掘概念数据挖掘技术的分类问题数据挖掘常用的知识表示模式与方法不同数据存储形式下的数据挖掘问题粗糙集方法及其在数据挖掘中的应用数据挖掘的应用分析,数据挖掘处于研究和应用探索阶段,11,2020年4月7日星期二,DMKDSidesByMAO,经过十几年的研究和实践，数据挖掘技术已经吸收了许多学科的最新研究成果而形成独具特色的研究分支。

大部分学者认为数据挖掘的研究仍然处于广泛研究和探索阶段：

一方面，数据挖掘的概念已经被广泛接受。

另一方面，数据挖掘的大面积应用还有待时日。

随着KDD在学术界和工业界的影响越来越大，数据挖掘的研究向着更深入和实用技术方向发展：

大学等研究机构的大多数基础性研究集中在数据挖掘理论、挖掘算法等的探讨上。

公司的研究更注重和实际商业问题结合。

数据挖掘的经济价值已经显现出来：

Gartner报告中列举重要影响的五项关键技术，其中KDD和人工智能排名第一。

数据挖掘研究聚焦点,12,2020年4月7日星期二,DMKDSidesByMAO,数据挖掘在如下几个方面需要重点开展工作：

数据挖掘技术与特定商业逻辑的平滑集成问题：

数据挖掘需要代表性的应用实例来证明（像“啤酒与尿布”）。

数据挖掘技术与特定数据存储类型的适应问题：

不同的数据存储方式会影响数据挖掘的具体实现机制、目标定位、技术有效性等。

大型数据的选择与规格化问题：

数据的噪音、信息丢失等问题的处理；针对特定挖掘方法进行数据规格化等问题。

数据挖掘系统的构架与交互式挖掘技术：

在具体的实现机制、技术路线以及各阶段的功能定位等方面仍需细化,和深入研究。

良好的交互式挖掘（InteractionMining）也是数据挖掘系统成功的,前提。

数据挖掘语言与系统的可视化问题：

可视化挖掘除了要和良好的交互式技术结合外，还必须在挖掘结果或过程的可视化进行探索和实践。

数据挖掘理论与算法研究,一方面，在已有的理论框架下有许多面向实际应用目标的挖掘理论等,待探索和创新。

另一方面，随着数据挖掘技术本身和相关技术的发展，新的挖掘理论,和算法的诞生是必然的。

第一章绪论,13,2020年4月7日星期二,DMKDSidesByMAO,内容提要数据挖掘技术的产生与发展数据挖掘研究的发展趋势数据挖掘概念数据挖掘技术的分类问题数据挖掘常用的知识表示模式与方法不同数据存储形式下的数据挖掘问题粗糙集方法及其在数据挖掘中的应用数据挖掘的应用分析,14,2020年4月7日星期二,DMKDSidesByMAO,从商业角度看数据挖掘技术数据挖掘从本质上说是一种新的商业信息处理技术：

数据挖掘技术把人们对数据的应用，从低层次的联机查询操作，提高到决策支持、分析预测等更高级应用上。

通过对数据的统计、分析、综合和推理，发现数据间的关联性、未来趋势以及一般性的概括知识等，这些知识性的信息可以用来指导高级商务活动。

从决策、分析和预测等高级商业目的看，原始数据只是未被开采的矿山，需要挖掘和提炼才能获得对商业目的有用的规律性知识。

从商业角度看，数据挖掘就是按企业的既定业务目标，对大量的企业数据进行深层次分析以揭示隐藏的、未知的规律性并将其模型化，从而支持商业决策活动。

数据挖掘的技术含义,15,2020年4月7日星期二,DMKDSidesByMAO,数据库中的知识发现（KDD：

KnowledgeDiscoveryinDatabases）是比数据挖掘出现更早的一个名词。

KDD与DataMining的关系，有不同的看法：

KDD看成数据挖掘的一个特例：

这是早期比较流行的观点，这种描述强调了数据挖掘在源数据形式上的多样性。

数据挖掘是KDD的一个关键步骤：

这种观点得到大多数学者认同，有它的合理性。

KDD与DataMining含义相同：

事实上，在现今的许多场合，如技术综述等，这两个术语仍然不加区分地使用着。

也有其他的说法：

KDD在人工智能界更流行，而DataMining在数据库界使用更多。

在研究领域被称作KDD，在工程领域则称之为数据挖掘。

数据挖掘定义,16,2020年4月7日星期二,DMKDSidesByMAO,数据挖掘定义有广义和狭义之分。

从广义的观点，数据挖掘是从大型数据集（可能是不完全的、有噪声的、不确定性的、各种存储形式的）中，挖掘隐含在其中的、人们事先不知道的、对决策有用的知识的过程。

从这种狭义的观点上，我们可以定义数据挖掘是从特定形式的数据集中提炼知识的过程。

下列技术不是数据挖掘：

OLTPExpertsystemsSmallMLStatisticalprograms,数据挖掘研究的理论基础,17,2020年4月7日星期二,DMKDSidesByMAO,数据挖掘方法可以是基于数学理论的，也可以是非数学的；可以是演绎的，也可以是归纳的。

从研究者可能是来自于数据库、人工智能、数理统计、计算机科学以及其他方面的学者和工程技术人员，他们会从不同的视点进行探讨性研究。

有下面一些重要的理论视点值得关注：

模式发现（PatternDiscovery）架构规则发现（RuleDiscovery）架构基于概率和统计理论微观经济学观点（MicroeconomicView）基于数据压缩（DataCompression）理论基于归纳数据库（InductiveDatabase）理论可视化数据挖掘（VisualDataMining）等等,第一章绪论,18,2020年4月7日星期二,DMKDSidesByMAO,内容提要数据挖掘技术的产生与发展数据挖掘研究的发展趋势数据挖掘概念数据挖掘技术的分类问题数据挖掘常用的知识表示模式与方法不同数据存储形式下的数据挖掘问题粗糙集方法及其在数据挖掘中的应用数据挖掘的应用分析,根据挖掘任务,19,2020年4月7日星期二,DMKDSidesByMAO,分类或预测模型发现数据总结与聚类发现关联规则发现序列模式发现相似模式发现混沌模式发现依赖关系或依赖模型发现异常和趋势发现等,根据挖掘对象,20,2020年4月7日星期二,DMKDSidesByMAO,关系数据库挖掘面向对象数据库挖掘空间数据库挖掘时态数据库挖掘文本数据源挖掘多媒体数据库挖掘异质数据库挖掘遗产数据库挖掘web数据挖掘等,根据挖掘方法,21,2020年4月7日星期二,DMKDSidesByMAO,机器学习方法统计方法聚类分析方法神经网络（NeuralNetwork）方法遗传算法（GeneticAlgorithm）方法数据库方法近似推理和不确定性推理方法基于证据理论和元模式的方法现代数学分析方法粗糙集（RoughSet）或模糊集方法集成方法等,根据知识类型,22,2020年4月7日星期二,DMKDSidesByMAO,挖掘广义型知识挖掘差异型知识挖掘关联型知识挖掘预测型知识挖掘偏离型（异常）知识挖掘不确定性知识等,第一章绪论,23,2020年4月7日星期二,DMKDSidesByMAO,内容提要数据挖掘技术的产生与发展数据挖掘研究的发展趋势数据挖掘概念数据挖掘技术的分类问题数据挖掘常用的知识表示模式与方法不同数据存储形式下的数据挖掘问题粗糙集方法及其在数据挖掘中的应用数据挖掘的应用分析,知识表示模式分类,24,2020年4月7日星期二,DMKDSidesByMAO,数据挖掘的目的是发现知识，知识要通过一定的模式给出。

通过对数据挖掘中知识表示模式及其所采用方法的分析，可以更清楚地了