《数据治理体系完整指南.docx》由会员分享,可在线阅读,更多相关《数据治理体系完整指南.docx(26页珍藏版)》请在第一文库网上搜索。
1、数据治理体系完整指南目录1 .数据治理体系22 .元数据31. 1.元数据解决的问题32. 2,元数据分类32. 3,元数据模型成熟度32.4.元数据建设目标和管理手段42. 5.元数据管理43 .数据标准53.1. 数据标准类型(举例)63.2. 数据标准管理体系涉及思路73.3. 数据标准架构体系83.4. 4.管理类数据标准建设原则93.5. 5.数据标准生命周期管理104 .数据建模114. 1.概念115. 2.数据模型分类126. 3.数据模型生命周期127. 4.案例135 .数据集成135. 1.概念136. 2.数据集成整体架构146 .数据生命周期141. 1.阶段划分14
2、6. 2.管理要求和手段157. 3.管理规范和管理办法167 .数据质量161. 1.数据质量管理目标167. 2.生命周期178. 3.数据质量维度179. 4.数据质量常用工具178 .数据开发178. 1.数据资产188. 2.数据服务199. 数据安全2010. ETL2010. 1.含义2110. 2. ETL 模式2110. 3.离线和实时241 .数据治理体系数据治理体系内容从两个维度来看:D数据治理难点痛点:数据脉络不清晰、数据汇聚能力不足、数据管控能力薄弱、数据治理 体系不完善、开放形式不完善。2)数据治理5个核心:理、聚、管、治、用。数据治理体系主要包含内容有数据标准、元
3、数据、数据建模、数据集成、数据生命周期、数据质量、数据开放、数据安全及数据应用。业务价值详见:关键点 数据治理体系数据治理组织架构与制度流程组织架构和制度数据建模数据质It数据应用L松子聊续据2 .元数据2.1. 元数据解决的问题有什么数据数据是什么来自何处如何流转谁可以访问其本质也是一种数据,开展元 数据管理工作是开展数据资产管理的基础。2. 2.元数据分类业务元数据:描述数据系统中业务领域相关概念、关系和规则的数据;包括业务术语、信息分 类、指标、统计口径等。(从业务角度描述的)技术元数据:描述数据系统中技术领域相关的概 念、关系和规则的数据;包括数据平台内对象和数据结构的定义、源数据到目
4、的数据的映射、数据 转换加工过程的描述等。管理元数据:描述数据系统中管理领域相关概念、关系、规则的数据;主 要包括人员角色、岗位职责、管理流程等信息。3. 3.元数据模型成熟度1、第一阶段:需要手动管理元数据,即在数据治理流程外需要额外增加的步骤。2、第二阶段:在数据探查阶段自动生成元数据。3、第三阶段:自动构建数据流转元数据。业务价值SnftiMR元UaB分散在各业务 系沈,互联互酒困建元UaB分做于日植 业务皿m理中A7nsvMar2. 4.元数据建设目标和管理手段制定元W型相关IK范 和制度时,应本上加E 客户业所有应用系统使用 的各个方面的元Be格元!燔管理与各版本的 应用开发设计相结
5、合,通各类!喇(患的变化都应 通过系统加以体现和更新; 下游使用上游的阳8.9 在系统中予以登记mimMMW 立内在的关联关系.在Jtt 基世上实现客户各系娴 数气说句的分析所有应用系统的元数黑 一般要求按照统一的规 电WHMR标”要求进行 集中管亶过蝇控制手段,保证教 据段,提高数度可算性BI.I量,提高用户体纸性等有要的意义管现值9法在元直图n* M不同的应用场. 8KM 0tMra tgmwftt V9M*陋主.涉及文 nijjw&SM曲的刎MM 位,并提供M口涉及位,并提哪标涉及 的时间清知一功处 1P1z为败岸繁 构H屏瓣供支 海平台,在元敷粼费源 分K .配.保证了元数H资源的U
6、效与合理利用MtfHi9灼于“e”E 共 代码,M制严格 的6熄必;对于一 Ift公共代码,仅IIt迸 t1KlJ2. 5.元数据管理元数据管理方法:元数据管理部门i营运中心各业务部门7 .M . 一一 .m.m.m4二1相关部门元数据管理能力:元数据管理和维护版本管理权限管理元数据应用侑息统计分析提供元数据质量 评估、多维度统 计和报表功能、 元型g衣莅西部? 及异名分价等通过采集工具、 页面管理等对各 类元数据进行首 理和维护;提供 各类元数据间的 调用关系管理 提供元数据基线 管理、版本制作、 版本提交等功能, 并实现与相关版 本发布系统或平 元数据管理系统 采用分类授权、 分角色授权等
7、原 则,对访问元数 据管理系统进行 权限控制根据元数据颗 展示元数据信息, 包括分布情况、 数据地图、血缘 分析、影响分析3.数据标准常见的数据标准包含基础数据标准和指标数据标准。指业务流程中直接产生的,未经过uI和处理 的基础业务信息。数据标准号指标数据标准是在基础类数据基础上按照一定业务规则加工汇总的数据。松子聊缴据主要构成:业务定义+管理信息+技术属性业务定义:主要是明确标准所属的业务主题以及标准的业务概念,包括标准名称、业务定义、扩展业务定义、业务使用规则、标准来源、相关业务信息编号等 管理信息:明确标准 的所有者、管理人员、 使用部门等内容,从 而使数据标准的管理 和维护工作有明确的
8、 责任主体,保障数据 标准的持续更新和改 进技术属性:描述数据 类型、数据格式、数 据长度以及数据来源 系统等技术属性,从 而能够对信息系统的 建设和使用提供指导 和约束业务定义管理信息数据标准包含内容包括:主题&分类+标注属性+标准代码主鹿定义和分类主题定义:明确业务主题(如客户)的概念、本质与内涵.主题基础分类:明确业务主题在客户的分类体系.数据标准核心内容标准属性数据项应遵循的标准属性和业务规则的统一定义与解释0包括所属主题、数据项级别、中文名称、英文名称、引用的数据项名称、 代码名称、业务定义、定义依据、参考标准、业务主管部门、重要性分 类、数据类型、数据长度.标准代码明确数据标准定义
9、中所涉及的代码取值和业务含义.包括代码编号、代码中文名称、代码值、代码项名不 俳唠航代码 值编码规则.一忸丁州员痂3.1.数据标准类型(举例)不同行业的标准不同,这里仅是举例说明。数据标准类型依据人民银行银行数据标准定义规范中定义的银行雌标准的数据类型“如:性别、身份证、金额、手机号码、行业、级别的分级分类的代码等3. 2.数据标准管理体系涉及思路数据标准来源于业务,服务于业务。依据已有标准进行建设管理数据标准数据标准编制依据国际标准(ISO. ITU.)国家标准(GB. GB/T )行WS (YD. YD八、.)同行标准(Q/GDW.)自编标准(商业计划/配建践)管理视角,基于成熟管理体系、
10、经验,梳理指标数据维度指标标签目录基础数据项公共代码信息化视角,基于已有频,从业务和流程的角度,盘点基基础数据标准松子聊缴据基础类数据标准:业务化视角指标类数据标准:从管理角度出发数据标准编制依据指标梳理(商业计划/管理实践)指标数据标准国际标准国家标准行业标准同行标准自编标准管理视角,基于成熟管理体系、经验,梳理指标数据中度指标标签目录 基鬻据公共代码基于指标统计分析需求,橱指玩 相关的维度、基础数据项、代码值 域基于信息系统现状和规划,梳理跨 系统共事的重要数据信息化视角于已有数据,I从业务和流程的角度,盘点基础数据基础数据盘点(管理信息系统/业务信息系统.)基/节据播姚力.据业务部门全程
11、参与数据标准的制定是一个以业务管理为主导、外部要求为依据、企业现状为基础的兼容过程。企业数国标准的定义.用!磁护号全员.长期、里将不09过程收标电定义只Ja建立企业锻散片标准的开修,标冠的质. B住和可好作性将在数抠析港落地政 用过程中逐步验证和修正 于行业及企业的业务发熊状况,将可屣望的晌性要求纳入标港 要在满足可陋信息要求月滞来的收UmIW定及堆炉此数据标段的成本之间迸行平断 敷括标冠戍KUb满足外那标减及监费米,又g8企业业务将色相理习Ie 数网尿S成与国际、国内和行业的标港相送应,与行业标准化过程按机 数We制定时需要全面分析企业现有JiML流麒喇系统现状 业务部门需全程终与数据项的收
12、复Ira工作.也若部0n 全HMWftitamaMMenr 业务部门需全程誉与B惊痕内哲的M定工作全面标准审 at于数据标越继及IffnlML nmmesm 财 W 对标准迸行IWn交叉m3. 3.数据标准架构体系通过统一标准和架构规范,统一指标、统一术语、统一模型、统一信息项,解决数据口径解释 不清晰、业务和数据理解不一致等问题,实现数据在架构层面的统一IMIV9统一命名ff93螳甘思与方法11 29X2 9WM9 3.3B*)V131 SRCJI3.3.2 ODSJIX3.3 OWDff334 DWAJI 135DMM3.3 6分忸3 4, 4仓环型命名IIIn4.1.14.1.2 惊;水
13、4 2 BMM43业务分,44BV*HS4.4.1 m a4.4.2 实体袁44 3 SXA444 Mna4.4.6 M*二C法常新断据J 4.4 8 AWtt9但并非所有基础类数据都要建立标准,纳入标准的数据项需要满足共享性、重要性和可行性的 准入原则。3. 4.管理类数据标准建设原则定义:分析类数据标准的业务含义和所适用的业务场景保持一致。口径:分析类数据标准的业务取值范围、计算方法和编码规则等业务规则保持一直。名称:分析类数据标准中文名称和英文名称均采用统一命名规则,表示相同业务含义的信息项 名称应保持一直。参照:各分析类数据标准项标准化时参考的外部标准(包括国际标准、国家标准和行业标 准),内部业务制度和业务规范应保持一致。来源:每个分析类数据标准都应有权威的来源系统;其他系统使用该信息时应直接取用权威系 统结果,以保持一致。1指标的属性2.指标的分类3、指标的分析维度T指标都包含哪些具体内容,用哪些属性来描述一个指标开发企业未来的分析类指标是 如何划分其分类的描述从哪些维度去对指标进行 分析的(分析的视角和:匚总的 SJg)1 .从指标的业务属性去划分n2 .分类应该是不重不漏、相对稳定