举例说明
一、SCD问题的几种解决方案
以下为解决缓慢变化维问题的几种办法:
- 保留原始值
- 改写属性值
- 增加维度新行
- 增加维度新列
- 添加历史表
1.1 保留原始值
某一个属性值绝不会变化。事实表始终按照该原始值进行分组。例如:出生日期的数据,始终按照用户第一次填写的数据为准
1.2 改变属性值
- 对其相应需要
重写维度行中的旧值,以当前值替换。因此其始终反映最近的情况
。 - 当一个维度值的数据源发生变化,并且不需要在维度表中保留变化历史时,通常用新数据来覆盖旧数据。这样的处理使属性所反映的中是最新的赋值。
用户维度表
修改前:
修改后:
- 这种方法有个前提,用户不关心这个数据的变化
- 这样处理,易于实现,但是
没有保留历史数据,无法分析历史变化信息
1.3 增加维度新行
数据仓库系统的目标之一是正确地表示历史
。典型代表就是拉链表
保留历史的数据,并插入新的数据
。
用户维度表
修改前:
修改后:
1.4 增加维度新列
用不同的字段来保存不同的值,就是在表中增加一个字段,这个字段用来保存变化后的当前值
,而原来的值则被称为变化前的值。总的来说,这种方法通过添加字段来保存变化后的痕迹。
用户维度表
修改前:
修改后
1.5 使用历史表
另外建一个表来保存历史记录
,这种方式就是将历史数据与当前数据完全分开来,在维度中只保存当前最新的数据。用户维度表
用户维度历史表
这种方式的优点是可以同时分析当前及前一次变化的属性值,缺点是只保留了最后一次变化信息。
思考
我在这里给大家提个场景题,比如我们在淘宝上购买一件商品,从下单-支付-发货-配送-确认收货这个几步流。需求:统计出在发送到配置过程中转了几次?
小结
今天给大家分享了SCD解决方案,但是其实以上的解决方案不是很好,其实数仓有一个非常好的解决缓慢变化维拉链表
既保留了历史数据又不会造成数据冗余,拉链表我们下期讲。信自己,努力和汗水总会能得到回报的。我是大数据老哥,我们下期见~~~
获取Flink面试题,Spark面试题,程序员必备软件,hive面试题,Hadoop面试题,Docker面试题,简历模板等资源请去GitHub自行下载 https://github.com/lhh2002/Framework-Of-BigData