如何进行数据质量管理?

发表于:2018-12-20 13:37

字体: | 上一篇 | 下一篇 | 我要投稿

 作者:李木子F    来源:CSDN

分享:
  数据质量问题
  常见的数据质量问题包括
  数据无法匹配
  数据不可识别
  数据不一致
  数据沉余重复
  实效性不强
  精度不够
  数据质量管理的目标
  通过数据分析、数据评估、数据清洗、数据监控、错误预警等内容,解决数据质量问题,使数据的质量得以改善,使其满足数据需求方对数据质量的规则要求。
  数据质量评估
  包括但不止以下6个方面
  完整性 Completeness:度量哪些数据丢失了或者哪些数据不可用。
  规范性 Conformity:度量哪些数据未按统一格式存储。
  一致性 Consistency:度量哪些数据的值在信息含义上是冲突的。
  准确性 Accuracy:度量哪些数据和信息是不正确的,或者数据是超期的。
  唯一性 Uniqueness:度量哪些数据是重复数据或者数据的哪些属性是重复的。
  关联性 Integration:度量哪些关联的数据缺失或者未建立索引。
  数据质量评估模型
  要素分别为:基础模型、数据质量定义模型、数据质量控制模型、数据质量评价模型、数据质量辅助模型。
  1.基础模型。
  其他模型必须以基础模型中的计划和标准为依据。基础模型主要是映射、定义数据采集标准,上载分单位的采集计划,同时纳入了约束规则定义规范、控制规则定义规范、模板定义规范。
  数据标准:分两部分,一部分是直接映射应用中的标准,例如源数据库标准;另一部分是针对新增应用库和项目库标准的定义规范,包括代码定义标准、数据项定义标准(例如是取英文还是汉语拼音,取几个字符)、值域定义标准等等新增表准的建立规范;
  采集计划:采集单位的每月上载的日度、月度、年度的采集计划;
  约束规则定义规范:主要描述质量定义模型中的语法构成;
  控制规则定义规范:针对服务器负载和采集表的及时性,要求建立的后台执行过程的控制方式的使用说明;
  2.数据质量定义模型。
  以基础模型为前提对数据质量的统一规范的定义,是数据质量分析评价的依据和基础。数据质量定义模型可以使用质量特性描述。数据质量特性归纳为数据的一致性、数据的准确性、数据的完整性、数据的及时性4个关键特性。
  (1一致性的量化评价指标:字段一致率、表间字段一致率、表间记录一致率。
  (2准确性的量化评价指标:准确率、差错率、问题字段个数、问题记录覆盖率
  (3)及时性的量化评价指标:采集项目及时率;单位入库及时率
  (4)完整性的量化评价指标:字段缺失数、缺失记录覆盖率、计划完成率。
  3.数据质量控制模型。
  数据质量控制模型以数据质量定义模型为基础,按照定义的检查范围和时间以自动或手工方式完成对数据质量的检查工作。在质量控制过程中违反了数据质量定义的,视为数据质量问题,数据质量问题直接通过数据质量的关键特性和指标反映出来。数据质量控制模型的控制内容表现在:对数据检查对象、数据检查频度、数据检查时间、数据检查方式等方面进行控制。
  (1)数据检查对象:是指根据采集计划设定需要检查的用户、专业数据表、数据库实体。
  (2)数据检查频度;是指根据数据表的采集计划和实际发生的频度,设定存储过程的检查执行频率。
  (3)数据检查时间:是指根据每日生产应用的密集时间以及数据发生到采集入库的密集时间,综合设定一个检查开始执行的时刻。
  (4)数据检查方式:是指执行检查过程的方式可以由后台过程自动控制,每间隔2小时自动检查一次;也可以由人工干预手动检查,任意时刻都可以执行检查(当然尽量选择数据库流量比较低的时候)。
  4.数据质量评价模型。
  数据质量评价模型,是以数据质量定义模型为依据,由数据质量控制模型操控执行,根据反馈的质量检查结果表,评议出数据质量的关键指标,实现对数据质量的量化诊断和评价。
  数据质量分析评价模型功能核心是,通过对基础模型中的采集计划和质量定义模型中的约束规则的处理,由控制模型调用可以实现检查分析的后台存储过程在实体库中执行检查,形成查询结果,再由分析程序进行分析、计算、分类、汇总,生成反映采集计划完成情况和数据质量量化指标的结果,存储到分析结果表中,从前台调用这个分析结果表,就可以生成一份详尽的反映数据质量问题各类量化指标的数据质量分析评估报告,展现所评估实体库的数据入库的及时率、数据上报的完整性、数据采集的一致性、数据入库的准确率。
  5.数据质量辅助管理模型
  数据质量辅助管理包括报告模版管理、权限管理、数据库资源占用情况等等。
 
      上文内容不用于商业目的,如涉及知识产权问题,请权利人联系博为峰小编(021-64471599-8017),我们将立即处理。
《2023软件测试行业现状调查报告》独家发布~

关注51Testing

联系我们

快捷面板 站点地图 联系我们 广告服务 关于我们 站长统计 发展历程

法律顾问:上海兰迪律师事务所 项棋律师
版权所有 上海博为峰软件技术股份有限公司 Copyright©51testing.com 2003-2024
投诉及意见反馈:webmaster@51testing.com; 业务联系:service@51testing.com 021-64471599-8017

沪ICP备05003035号

沪公网安备 31010102002173号