Dimension——缓慢变化维-SCD

来源:互联网 发布:怎么注册淘宝小号安全 编辑:程序博客网 时间:2024/06/01 08:41

定义

在维度建模的数据仓库中,有一个概念叫Slowly Changing Dimensions,中文一般翻译成“缓慢变化维”,经常被简写为SCD。缓慢变化维的提出是因为在现实世界中,维度的属性并不是静态的,它会随着时间的流失发生缓慢的变化。这种随时间发生变化的维度我们一般称之为缓慢变化维,并且把处理维度表的历史变化信息的问题称为处理缓慢变化维的问题,有时也简称为处理SCD的问题.
wiki中关于SCD的解释如下:

Dimension is a term in data management and data warehousing that refers to logical groupings of data such as geographical location, customer information, or product information. Slowly Changing Dimensions (SCD) are dimensions that have data that slowly changes.

解决方案

  • 新数据覆盖旧数据
  • 保存多条记录,并添加字段加以区分
  • 不同字段保存不同值
  • 另外建表保存历史记录
  • 混合模式

下面我们将一一介绍如何使用上面的方案去解决缓慢变化维的问题

新数据覆盖旧数据

此方法必须有前提条件,即你不关心这个数剧的变化。例如,某个纳税人的所属税务机关改了,如果你不关心纳税人的所属税务机关有什么变化则可直接覆盖(修改)数据仓库中的数据。

保存多条记录,并添加字段加以区分

这种情况下直接新添一条记录,同时保留原有记录,并用单独的专用的字段保存区别。如:

纳税人ID 纳税人识别号 纳税人名称 主管税务机关 有效标志 1 411402574988433 测试户 二七 N 2 411402574988433 测试户 金水 Y 纳税人ID 纳税人识别号 纳税人名称 主管税务机关 版本 1 411402574988433 测试户 二七 0 2 411402574988433 测试户 金水 1

以上是添加数据版本信息或是否可用来标识新旧数据。下面一种则是添加记录的生效日期和失效日期来标识新旧数据:

纳税人ID 纳税人识别号 纳税人名称 主管税务机关 有效日期始 有效日期止 1 411402574988433 测试户 二七 2012/1/1 2012/3/31 2 411402574988433 测试户 金水 2012/4/1

空的有效日期止表示当前版本数据,或者你也可一用一个默认的大时间 (如: 12/31/9999)来代替空值, 这样数据还能被索引识别到.

不同字段保存不同值

纳税人ID 纳税人识别号 纳税人名称 原主管税务机关 当前主管税务机关 1 411402574988433 测试户 二七 金水

这种方法用不同的字段保存变化痕迹.但是这种方法不能象第二种方法一样保存所有变化记录,它只能保存两次变化记录.适用于变化不超过两次的维度

另外建表保存历史记录

即另外建一个历史表来表存变化的历史记录,而维度只保存当前数据.
纳税人维:

纳税人ID 纳税人识别号 纳税人名称 主管税务机关 有效日期始 有效日期止 1 411402574988433 测试户 金水 2012/4/1

纳税人维历史表:

纳税人ID 纳税人识别号 纳税人名称 主管税务机关 有效日期始 有效日期止 1 411402574988433 测试户 二七 2012/1/1 2012/3/31

这种方法仅仅记录一下变化历史痕迹,其实做起统计运算来还是不方便的

混合模式

这种模式是以上几种模式的混合体,相对而言此种方法更全面,更能应对错综复杂且易变化的用户需求,也是较为常用的.

纳税人ID 纳税人识别号 纳税人名称 主管税务机关 有效日期始 有效日期止 有效标志 1 411402574988433 测试户 二七 2012/1/1 2012/3/31 N 2 411402574988433 测试户 金水 2012/4/1 Y

此中方法有以下几条优点:

  1. 能用简单的过滤条件选出维度当前的值。
  2. 能较容易的关联出历史任意一时刻事实数据的值。
  3. 如果事实表中有一些时间字段,那么我们很容易选择哪一条维度数据进行关联分析。
    其中有效标志字段是可有可无的,加上去更方便,毕竟维度表的数据都不大,多点冗余字段不占太大空间但能提高查询效率。
    这种设计模式下事实表应以纳税人识别号为外键,虽然这个字段不能唯一标识一条维度数据,从而形成了事实表与维表多对多的关系,因此在做事实和维度做关联时应加上时间戳字段(或有效标志字段)
    基于以上的解决方式,选择哪种方式还是要看具体的场景和需求,选择合适的方案,或者在这几种方案中加以融合,形成适合的解决方案。

参考文章

  1. 关于数据仓库中缓慢变化维的总结
  2. 数据仓库系列 - 缓慢渐变维度 (Slowly Changing Dimension)常见的三种类型及原型设计
0 0
原创粉丝点击