12第一章 概论.docx

1、12第一章 概论模式识别 Pattern Recognition第一章 概论P.R.的概况P.R.实例 1 模式识别概论 名词解释：模式，模式识别 历史与现状 应用领域 方法 与其它学科的关系1）模式和模式识别帕夫利笛斯结构模式识别：模式pattern：供模仿用的完美无缺的标本。模式识别：识别出给定物体所模仿的标本。例如：粉笔、黑板都是“模式”，见到一个东西，认出这是“粉笔”，而不是“黑板”就是“模式识别”。人每天都要进行很多次的模式识别，就连最低等的动物都有强的P.R.的能力（生存必要能力），若不能识别食物和敌人，就会灭亡。研究模式识别的人有两类：（1） 心理学家：研究人识别事物的过程（关心

2、感知的数学和生理方面）（2） 搞计算机的：研究计算机怎样识别模式（本课程的目的）模式识别精确的讲为：数字模式识别计算机模式识别计算机自动模式识别模式识别：使计算机模仿人的感知能力，从感知数据中提取信息（判别物体和行为）的过程。 Pattern recognitionis the study of how machines can observe the environment, learn to distinguish patterns of interest from their background, and make sound and reasonable decisions abou

3、t the categories of the patterns. (Anil K. Jain) 样本(sample, object)：一类事物的一个具体体现，对具体的个别事物进行观测所得到的某种形式的信号。 模式(pattern)：表示一类事物，如印刷体A与手写体A属同一模式。 样本是具体的事物，而模式是对同一类事物概念性的概括。 模式识别是从样本到类别的映射。机不如人计算机的长处是：计算能力强，而认知能力极弱。难：难在无法让计算机精确模拟人的智能。感知数据：非结构化（像素、声波等）为什么研究它？需要：（1） 生产实践的需要：需要智能机器人，另外人的工资高，而计算机的价格越来便宜。（2） 信

4、息爆炸现象：用人来不及处理信息。如：卫星遥感，超级市场，邮政，银行，指纹库。（3） 危险地带：油漆、放射、高温、核电站。（4） 提高工效：自动化带来的好处已经显而易见。可能： 计算机的快速发展使得模式识别的研究成为可能。本课程就是讲用计算机进行分类的各种方法。（模式识别最狭义的理解）模式识别的研究一直处在上升阶段，原因在于：（1） 需要；（2） 尚有许多问题还没有解决，有待人们作进一步的研究。2）应用领域文字处理：文字识别（印刷体，手写体汉字识别）； 办公自动化（机器翻译）； 银行（支票识别）； 邮局（邮政信函的自动分拣）。生物医学：血细胞计数，染色体分类，心电脑电图，整形外科生物特征识别遥感

5、：资源普查（对地形地貌的分析，森林资源、海洋资源的普查，湖水面积的计算），地图识别工业：工业机器人自动装配和自动分拣语言识别：说话人，特定人识别其它：公安（指纹，人脸），交通（智能交通）3）模式识别的方法方法多而杂，与应用有很大的关系。特征提取：与问题关系很大，且与分类方法有关系，属图像处理范畴。 如：零件识别：尺寸，重量，光洁度，硬度 看病诊断：温度，白血球计数分类：（1） 启发式：与具体问题有关，靠抓主要矛盾，靠想象力。（2） 有严格理论基础的方法：A. 统计模式识别理论成熟（多元统计分析），应用最广，成效显著，本课程的主要内容。B. 结构模式识别根据目标的结构特征来分类。主要有句法模式识

6、别建立在形式语言和自动机理论基础上。C. 模糊模式识别建立在模糊集（Fuzzy Set）的理论基础上。D. 其它如神经网络（Neural Network），支撑向量机（Support Vector Machine）与本领域其它学科的关系（交叉、覆盖、联系多）I. P(S.P)P.R.A.I.C.V.模式识别以图像处理与信号处理为基础；模式识别又是人工智能和计算机视觉为基础。2 P.R.系统举例1）对航空图片进行统计P.R.已知：7谱航空照片（310个波段） 地面某些区域的真实情况的信息要求：用模式识别的方法对航空照片上其它未知类别的地区进行模式识别以了解这些究竟是什么东西。利用：各类物体对不同

7、波长的光反射系数不同。地里含有水、石、雪，各个波段对其反射系数是不一样的，有：系统的框图及说明：1采集多谱图像（属图像处理范畴），得到：此例中，地面上每个点用一个7维矢量来表示，这个矢量成为观测矢量。广义而言，这个矢量是n维的。观测矢量是模式识别的入口，又称为特征矢量。所有的特征矢量构成一个n维的空间，这个空间成为特征空间。特征矢量是特征空间中的一个点，特征矢量的各个分量称为特征。2分类（模式识别）就是把特征空间进行划分，观测矢量落在哪个子空间就被分到哪一类中去。3特征提取：此例将不同波长的反射系数作为不同的特征。4参数估计：模式识别分两阶段：（1） 用已知类别的观测矢量（训练样本）对计算机进

8、行训练；（2） 用经过训练的计算机对未知类别的观测矢量进行分类。5没有训练样本聚类clustering。6特征选择抓主要矛盾。 观测矢量的维数可能很高，但不是所有的这些信息对分类有用。2）句法P.R系统框图eg.染色体大致有2种：预处理：去噪，消光照不均匀，二值化等等。基元抽取（特征提取）：统计模式识别特征提取得到的是一个向量，而句法模式识别得到的是一个字符串。句法分析（决策分类）：分析字符串符合哪一个文法，据此来识别输入模式的属于何类。文法推断（参数估计）：根据大量的训练样本来总结出表示不同类别的字符串的规律，给出对应的文法。句法模式识别特点：（1） 强调的不是统计特性，而是结构特征。（2）

9、 采用分层结构表示模式，最底层为基元。（3） 句法模式识别是结构模式识别的主流，但远不是全部。3）手写体汉字识别难点：1）字量很大（一级字库3755个字二级字库3008个字）。2）结构复杂，有相似的字比较多（土、士，未、末）。3）随意性强，畸变大。SR序列：（统计交叉点个数） 个数撇那竖横多交叉点4 交叉点3 交叉点2 交叉点同字异码华02420212华（没钩）02320211同码异字杏11331014呆11331014解决同码异字还可： 外接有向图 杏 呆结构描述 吕 回叉点序列 杏 呆这种复杂性决定了模式识别研究的局限性：数据决定算法3 课程安排及参考书教材：孙即祥：现代模式识别，国防科大

10、出版社边肇祺：模式识别（第二版），清华大学出版社参考书：1 J.T.Tou（窦祖烈）, Pattern Recognition Principles2 福永圭之介， 统计图形识别导论3 张尧庭，方开泰，多元统计分析导论4 傅京孙，模式识别及其应用5 Gonzalaz， Thomason， Syntactic Pattern Recognition an introduction主要期刊 IEEE Trans. on PAMI (Pattern Analysis Machine Intelligence)，1978-，IEEE Computer Society Pattern Recogniti

11、on，1968-，PR Society, Elsevier Pattern Recognition Letter，1980-，IAPR, Elsevier Machine Learning，Neural Computation，IEEE Trans. On NN (Neural Network) Int. Journal of PR (Pattern Recognition) and AI (Artificial Intelligence), 1988- (World Scientific) Pattern Analysis and Applications, 1997- (Springer)

12、 Int. J. Document Analysis & Recognition, 1998- 模式识别与人工智能 中国图像与图形学学报主要会议 系列性国际会议 ICCV (International Conference on Computer Vision)： 2年一次，1000人规模 CVPR (International Conference on Computer Vision and Pattern Recognition)：每年一次在美国，1000人规模 ECCV (European Conference on Computer Vision)：2年一次ICCV,CVPR,ECC

13、V是计算机视觉三大国际会议 ICPR (International Conference on Pattern Recognition)：2年一次，1000人规模 ICDAR (International Conference on Document Analysis and Recognition)： 2年一次，300-400人规模 FG (IEEE Intl Conference on Automatic Face and Gesture Recognition) 其他 ICASSP (IEEE International Conference on Acoustics, Speech a

14、nd Signal Processing), ICIP (International Conference on Image Processing) ICML (International Conference on Machine Learning)主要组织 国际组织 IAPR (International Association for Pattern Recognition, 模式识别国际协会) IEEE Computer Society: TC (Technical Committee ) on PAMI (Pattern Analysis and Machine Intelligen

15、ce) 国内组织 中国自动化学会：模式识别与机器智能(PRMI)专业委员会，1981年成立，IAPR (International Association of Pattern Recognition) 成员组织 中国计算机学会：人工智能与模式识别专业委员会 中国人工智能学会主要机构 国外 USA: MIT (Poggio)UIUC (University of Illinois Urbana Champaign, Thomas Huang)CMU (Central Michigan University, T. Kanade)MSU (Michigan State University, A

16、.K. Jain) Maryland (Resenfeld, Chellappa) Canada: Toronto (Hinton), Concordia (C.Y. Suen) UK: Surrey (Kittler)MSR Cambridge (Microsoft Research Cambridge, Bishop) France: INRIA (Institut National de Recherche en Informatique et en Automatique, the french national institute for research in computer science and control) 国内 MSRA (Microsoft Research Asia)HKUST (Hong Kong University of Science and Technology) 中科院自动化所清华大学北京大学上海交大西安交大南京理工大学武汉大学等课程进度第一章：概论第二章：数学基础（统计）第三章：用似然函数分类第四章：用距离函数分类第五章：特征选择第六章：句法模式识别