朴素贝叶斯法.ppt
《朴素贝叶斯法.ppt》由会员分享,可在线阅读,更多相关《朴素贝叶斯法.ppt(20页珍藏版)》请在冰豆网上搜索。
,图形绘制,图片处理,图表设计,典型案例,*,By戴非凡Date2018.4.4,朴素贝叶斯分类法,图形绘制,图片处理,图表设计,典型案例,*,贝叶斯决策论,朴素贝叶斯分类器,半朴素贝叶斯分类器,西瓜程序,ContentsPage,目录页,*,图形绘制,图片处理,图表设计,典型案例,*,TransitionPage,过渡页,*,贝叶斯决策论,朴素贝叶斯分类器,半朴素贝叶斯分类器,西瓜程序,图形绘制,朴素贝叶斯分类器,半朴素贝叶斯分类器,程序,*,贝叶斯决策论,1.1,贝叶斯决策论(Bayesiandecisiontheory)是概率框架下实施决策的基本方法。
用p1(x,y)表示数据点(x,y)属于类别1(图中红色圆点表示的类别)的概率,用p2(x,y)表示数据点(x,y)属于类别2(图中蓝色三角形表示的类别)的概率,那么对于一个新数据点(x,y),可以用下面的规则来判断它的类别:
如果p1(x,y)p2(x,y),那么类别为1如果p1(x,y)p2(x,y),那么类别为2贝叶斯决策理论核心思想:
选择高概率对应的类别。
图形绘制,朴素贝叶斯分类器,半朴素贝叶斯分类器,程序,*,贝叶斯决策论,1.2,贝叶斯决策论还需了解:
1、条件概率:
即B发生的情况下A发生的概率,用P(A|B)表示。
图形绘制,朴素贝叶斯分类器,半朴素贝叶斯分类器,程序,*,贝叶斯决策论,1.2,2、全概率公式:
如果A和A构成样本空间的一个划分,那么事件B的概率,就等于A和A的概率分别乘以B对这两个事件的条件概率之和。
图形绘制,朴素贝叶斯分类器,半朴素贝叶斯分类器,程序,*,贝叶斯决策论,1.3,贝叶斯推断:
我们把P(A)称为”先验概率”(Priorprobability),即在B事件发生之前,我们对A事件概率的一个判断。
P(A|B)称为”后验概率”(Posteriorprobability),即在B事件发生之后,我们对A事件概率的重新评估。
P(B|A)/P(B)称为”可能性函数”(Likelyhood),这是一个调整因子,使得预估概率更接近真实概率。
在1.1提到贝叶斯决策理论要求计算两个概率p1(x,y)和p2(x,y):
如果p1(x,y)p2(x,y),那么类别为1如果p1(x,y)p2(x,y),那么类别为2p1,p2即为后验概率p1(c1|x,y),p2(c2|x,y),图形绘制,图片处理,图表设计,典型案例,*,TransitionPage,过渡页,*,贝叶斯决策论,朴素贝叶斯分类器,半朴素贝叶斯分类器,西瓜程序,贝叶斯决策论,图片处理,半朴素贝叶斯分类器,程序,*,朴素贝叶斯分类器,2.1,基于贝叶斯公式估计后验概率P(c|x)的主要困难在于:
类条件概率P(x|c)是所有属性上的联合概率,较难估计。
为了避开这个障碍,提出了朴素贝叶斯分类器(naveBayesclassifier)“朴素”:
采用属性条件独立性假设假设用于分类的特征在类确定的条件下都是条件独立的。
贝叶斯决策论,图片处理,半朴素贝叶斯分类器,程序,*,朴素贝叶斯分类器,2.2,贝叶斯决策论,图片处理,半朴素贝叶斯分类器,程序,*,朴素贝叶斯分类器,2.3,Forexample:
数据集为:
测试集为:
青绿蜷缩浊响清晰凹陷硬滑0.6970.460?
是,贝叶斯决策论,图片处理,半朴素贝叶斯分类器,程序,*,朴素贝叶斯分类器,2.4,Python_programme:
朴素贝叶斯分类函数,图形绘制,图片处理,图表设计,典型案例,*,TransitionPage,过渡页,*,贝叶斯决策论,西瓜程序,朴素贝叶斯分类器,半朴素贝叶斯分类器,贝叶斯决策论,朴素贝叶斯分类器,程序,*,半朴素贝叶斯分类器,3.1,独,贝叶斯决策论,朴素贝叶斯分类器,程序,*,半朴素贝叶斯分类器,3.2,贝叶斯决策论,朴素贝叶斯分类器,程序,*,半朴素贝叶斯分类器,3.2,贝叶斯决策论,朴素贝叶斯分类器,程序,*,半朴素贝叶斯分类器,3.2,图形绘制,图片处理,图表设计,典型案例,*,TransitionPage,过渡页,*,西瓜程序,贝叶斯决策论,朴素贝叶斯分类器,半朴素贝叶斯分类器,贝叶斯决策论,朴素贝叶斯分类器,半朴素贝叶斯分类器,*,程序,4.1训练集及测试集,图形绘制,图片处理,图表设计,典型案例,*,谢,谢,观,赏,TrailerPage,结束页,*,