大数据治理系列大数据治理统一流程模型概述和明确元数据管理策略.docx

大数据治理系列大数据治理统一流程模型概述和明确元数据管理策略.docx

《大数据治理系列大数据治理统一流程模型概述和明确元数据管理策略.docx》由会员分享，可在线阅读，更多相关《大数据治理系列大数据治理统一流程模型概述和明确元数据管理策略.docx（11页珍藏版）》请在冰豆网上搜索。

大数据治理系列大数据治理统一流程模型概述和明确元数据管理策略

大数据治理系列，第一部分:

大数据治理统一流程模型概述和明确元数据管理策略

大数据治理的核心是为业务提供持续的、可度量的价值

在各行各业中，随处可见因数量、速度、种类和准确性结合带来的大数据问题，为了更好地利用大数据，大数据治理逐渐提上日程。

大数据治理的核心是为业务提供持续的、可度量的价值。

本文主要介绍大数据治理的基本概念和大数据治理统一流程参考模型的前两步：

“明确元数据管理策略”和“元数据集成体系结构”。

大数据治理概述

（狭义）大数据是指无法使用传统流程或工具在合理的时间和成本处理或分析的信息，这些信息将用来帮助企业更智慧地经营和决策。

而广义的大数据更是指企业需要处理的海量数据，包括传统数据以及狭义的大数据。

（广义）大数据可以分为五个类型：

Web和社交媒体数据、机器对机器（M2M）数据、海量交易数据、生物计量学数据和人工生成的数据。

∙Web和社交媒体数据：

比如各种微博、博客、社交、购物中的数据和容。

∙M2M数据：

也就是机器对机器的数据，比如RFID数据、GPS数据、智能仪表、监控记录数据以及其他各种传感器、监控器的数据。

∙海量交易数据：

是各种海量的交易记录以及交易相关的半结构化和非结构化数据，比如电信行业的CDR、3G上网记录等，金融行业的网上交易记录、corebanking记录、理财记录等，保险行业的各种理赔等。

∙生物计量学数据：

是指和人体识别相关的生物识别信息，如指纹、DNA、虹膜、视网膜、人脸、声音模式、笔迹等。

∙人工生成的数据：

比如各种调查问卷、电子、纸质文件、扫描件、录音和电子病历等。

∙

在各行各业中，随处可见因数量、速度、种类和准确性结合带来的大数据问题，为了更好地利用大数据，大数据治理逐渐提上日程。

在传统系统中，数据需要先存储到关系型数据库/数据仓库后再进行各种查询和分析，这些数据我们称之为静态数据。

而在大数据时代，除了静态数据以外，还有很多数据对实时性要求非常高，需要在采集数据时就进行相应的处理，处理结果存入到关系型数据库/数据仓库、MPP数据库、Hadoop平台、各种NoSQL数据库等，这些数据我们称之为动态数据。

比如高铁机车的关键零部件上装有成百上千的传感器，每时每刻都在生成设备状态信息，企业需要实时收集这些数据并进行分析，当发现设备可能出现问题时及时告警。

再比如在电信行业，基于用户通信行为的精准营销、位置营销等，都会实时的采集用户数据并根据业务模型进行相应的营销活动。

大数据治理的核心是为业务提供持续的、可度量的价值。

大数据治理人员需要定期与企业高层管理人员进行沟通，保证大数据治理计划可以持续获得支持和帮助。

相信随着时间的推移，大数据将成为主流，企业可以从海量的数据中获得更多的价值，而大数据治理的围和严格程度也将逐步上升。

为了更好地帮助企业进行大数据治理，笔者在IBM数据治理统一流程模型基础上结合在电信、金融、政府等行业进行大数据治理的经验，整理了大数据治理统一流程参考模型，整个参考模型分为必选步骤和可选步骤两部分。

回页首

大数据治理统一流程参考模型

如图1所示，大数据治理统一流程参考模型必要步骤分为两个方向：

一条子线是在制定元数据管理策略和确立体系结构的基础上实施全面的元数据管理，另一条子线是在定义业务问题、执行成熟度评估的基础上定义数据治理路线图以及定义数值治理相关的度量值。

在11个必要步骤的基础上，企业可以在7个可选步骤中选择一个或多个途径进行特定领域的数据治理，可选步骤为：

主数据监管、（狭义）大数据监管、信息单一视图监管、运营分析监管、预测分析监管、管理安全与隐私以及监管信息生命周期。

企业需要定期对大数据治理统一流程进行度量并将结果发送给主管级发起人。

图1.大数据治理统一流程参考模型

回页首

第一步：

明确元数据管理策略

在最开始的时候，元数据（MetaData）是指描述数据的数据，通常由信息结构的描述组成，随着技术的发展元数据涵有了非常大的扩展，比如UML模型、数据交易规则、用Java，.NET，C++等编写的APIs、业务流程和工作流模型、产品配置描述和调优参数以及各种业务规则、术语和定义等[1]。

在大数据时代，元数据还应该包括对各种新数据类型的描述，如对位置、名字、用户点击次数、音频、视频、图片、各种无线感知设备数据和各种监控设备数据等的描述等。

元数据通常分为业务元数据、技术元数据和操作元数据等。

业务元数据主要包括业务规则、定义、术语、术语表、运算法则和系统使用业务语言等，主要使用者是业务用户。

技术元数据主要用来定义信息供应链（InformationSupplyChain，ISC）各类组成部分元数据结构，具体包括各个系统表和字段结构、属性、出处、依赖性等，以及存储过程、函数、序列等各种对象。

操作元数据是指应用程序运行信息，比如其频率、记录数以及各个组件的分析和其它统计信息等。

从整个企业层面来说，各种工具软件和应用程序越来越复杂，相互依存度逐年增加，相应的追踪整个信息供应链各组件之间数据流动、了解数据元素含义和上下文的需求越来越强烈。

在从应用议程往信息议程的转变过程中，元数据管理也逐渐从局部存储和管理转向共享。

从总量上来看，整个企业的元数据越来越多，光现有的数据模型中就包含了成千上万的表，同时还有更多的模型等着上线，同时随着大数据时代的来临，企业需要处理的数据类型越来越多。

为了企业更高效地运转，企业需要明确元数据管理策略和元数据集成体系结构，依托成熟的方法论和工具实现元数据管理，并有步骤的提升其元数据管理成熟度。

为了实现大数据治理，构建智慧的分析洞察，企业需要实现贯穿整个企业的元数据集成，建立完整且一致的元数据管理策略，该策略不仅仅针对某个数据仓库项目、业务分析项目、某个大数据项目或某个应用单独制定一个管理策略，而是针对整个企业构建完整的管理策略。

元数据管理策略也不是技术标准或某个软件工具可以取代的，无论软件工具功能多强大都不能完全替代一个完整一致的元数据管理策略，反而在定义元数据集成体系结构以及选购元数据管理工具之前需要定义元数据管理策略。

元数据管理策略需要明确企业元数据管理的愿景、目标、需求、约束和策略等，依据企业自身当前以及未来的需要确定要实现的元数据管理成熟度以及实现目标成熟度的路线图，完成基础本体、领域本体、任务本体和应用本体的构建，确定元数据管理的安全策略、版本控制、元数据订阅推送等。

企业需要对业务术语、技术术语中的敏感数据进行标记和分类，制定相应的数据隐私保护政策，确保企业在隐私保护方面符合当地隐私方面的法律法规，如果企业有跨国数据交换、元数据交换的需求，也要遵循涉及的法律法规要求。

企业需要保证每个元数据元素在信息供应链中每个组件中语义上保持一致，也就是语义等效（semanticequivalence）。

语义等效可以强也可以弱，在一个元数据集成方案中，语义等效（平均）越强则整个方案的效率越高。

语义等效的强弱程度直接影响元数据的共享和重用。

本体（人工智能和计算机科学）

本体（Ontology）源自哲学本体论，而哲学本体论则是源自哲学中“形而上学”分支。

本体有时也被翻译成本体论，在人工智能和计算机科学领域本体最早源于上世纪70年代中期，随着人工智能的发展人们发现知识的获取是构建强大人工智能系统的关键，于是开始将新的本体创建为计算机模型从而实现特定类型的自动化推理。

之后到了上世纪80年代，人工智能领域开始使用本体表示模型化时间的一种理论以及知识系统的一种组件，认为本体（人工智能）是一种应用哲学。

最早的本体（人工智能和计算机科学）定义是Neches等人在1991给出的：

“一个本体定义了组成主题领域的词汇的基本术语和关系，以及用于组合术语和关系以及定义词汇外延的规则”。

而第一次被业界广泛接受的本体定义出自TomGruber，其在1993年提出：

“本体是概念化的显式的表示（规格说明）”。

Borst在1997年对TomGruber的本体定义做了进一步的扩展，认为：

“本体是共享的、概念化的一个形式的规说明”。

在前人的基础上，Studer在1998年进一步扩展了本体的定义，这也是今天被广泛接受的一个定义：

“本体是共享概念模型的明确形式化规说明”。

本体提供一个共享词汇表，可以用来对一个领域建模，具体包括那些存在的对象或概念的类型、以及他们的属性和关系[2]。

一个简单的本体示例发票概念及其相互关系所构成的语义网络如图2所示：

图2.简单本体（发票）示例

随着时间的推移和技术的发展，本体从最开始的人工智能领域逐渐扩展到图书馆学、情报学、软件工程、信息架构、生物医学和信息学等越来越多的学科。

与哲学本体论类似，本体（人工智能和计算机科学）依赖某种类别体系来表达实体、概念、事件及其属性和关系。

本体的核心是知识共享和重用，通过减少特定领域概念或术语上的分歧，使不同的用户之间可以顺畅的沟通和交流并保持语义等效性，同时让不同的工具软件和应用系统之间实现互操作。

根据研究层次可以将本体的种类划分为“顶级本体”（top-levelontology）、应用本体（applicationontology）、领域本体（domainontology）和任务本体（taskontology），各个种类之间的层次关系如图3所示。

图3.本体层次关系

∙顶级本体，也被称为上层本体（upperontolog）或基础本体（foundationontology），是指独立于具体的问题或领域，在所有领域都适用的共同对象或概念所构成的模型，主要用来描述高级别且通用的概念以及概念之间的关系。

∙领域本体是指对某个特定的领域建模，显式的实现对领域的定义，确定该领域共同认可的词汇、词汇业务含义和对应的信息资产等，提供对该领域知识的共同理解。

领域本体所表达的是适合自己领域的术语的特定含义，缺乏兼容性，因而在其他领域往往不适用。

在同一领域，由于文化背景、语言差异、受教育程度或意识形态的差异，也可能会出现不同的本体。

很多时候，随着依赖领域本体系统的扩展，需要将不同的领域本体合并为更通用的规说明，对并非基于同一顶级本体所构建的本体进行合并是一项非常具有挑战的任务，很多时候需要靠手工来完成，相反，对那些基于同一顶级本体构建的领域本体可以实现自动化的合并。

∙任务本体是针对任务元素及其之间关系的规说明或详细说明，用来解释任务存在的条件以及可以被用在哪些领域或环境中。

是一个通用术语的集合用来描述关于任务的定义和概念等。

∙应用本体：

描述依赖于特定领域和任务的概念及概念之间的关系，是用于特定应用或用途的本体，其畴可以通过可测试的用例来指定。

从详细程度上来分，本体又可以分为参考本体（referenceontologies）和共享本体（shareontologies），参考本体的详细程度高，而共享本体的详细程度低。

本体（哲学）

哲学中的本体（ontology）也被称为存在论，源自哲学中“形而上学”分支，主要探讨存在的本质，也就是存在的存在。

英文ontology实际上就是来源于希腊文“ον”（存在）和“λόγος”（学科）的组合。

本体是由早期希腊哲学在公元前6世纪到公元前4世纪提出的“始基”延伸出来的。

始基（Principle，又称本原）最早由泰勒斯（米利都学派）最早提出来，认为万物由水而生，其学生阿那克西曼德认为万物由一种简单的原质组成，该原质不是水[3]。

而毕达哥拉斯（学派）认为“万物都是数”，数不仅被看作万物的本原，而且被看作万物的原型、世界的本体。

后来巴门尼德（爱利亚学派）提出了“存在”的概念，认为存在才是唯一真正存在的真理，其创造了一种形而上学论证方式，之后的哲学一直到近时期为止，都从巴门尼德处接受了其“实体的不可毁灭性”。

苏格拉底继承了巴门尼德的存在概念，主“真正的善”并完善了巴门尼德弟子芝诺的辩证法，其学