数据的准备展现过程中如何处理维度

数据发布

子系统九:缓慢变化维管理系统

ETL结构中最为重要的元素之一是实现缓慢变化维度(Slowly Changing Dimension , SCD)。这里简单对缓慢变化维的几种处理方式做下总结,数据僧在之前的文章中有详细介绍缓慢变化维。
SCD1:重写;在已有的维度行中重写一个或多个属性。
SCD2:增加新行;复制先前维度行的版本,从头开始建立新行。
SCD3:增加新属性;在原列中添加新增的值,将已经存在的列值添加到新增加到的列中。

SCD3:增加新属性

SCD4:增加微型维度;微型维度需要有自己的主见。主维度的主键和微型维度的主键都必须出现在事实表中。

SCD4:增加微型维度

SCD5:增加微型维度和SCD1支架;

SCD5:增加微型维度和SCD1支架

SCD6:在SCD2维度中增加SCD1属性;这种处理方式是SCD3的另外一种实现。

SCD6:在SCD2维度中增加SCD1属性

如何使用以上的这些缓慢变化的处理方式呢?

SCD代理键管理的处理流程

维度表为事实表提供了接入点。它对于DW/BI 系统的成功起关键的作用。为事实表以及所有的度量提供环境。

子系统十:代理建生成系统

目标是产生一个无语义的键,通常是一个整数,成为维度行的主键。代理键生成器能独立地为所有维度产生代理键;避免级联 源系统的操作型键或者日期,时间戳。尽管方法简单,但是始终会存在问题,最终可扩展性无法得到保障。

子系统十一:层次管理系统

维度中通常具有多个同时存在,嵌入的层次结构。层次可以是固定的也可以是参差不齐的。固定深度的层次具有一致的层次号。类似通信地址这样的轻微残次不齐的层次往往被建模成固定层次。具有不确定的深度,则需要使用组织映射的桥接表。不建议使用雪花或者规范化数据结构来表示层次,但是在过渡区使用可能是比较合适,可用于辅助维护ETL数据流以添加或维护层次属性。ETL系统负责强化业务规则以确保维度表中加入适当的层次。

子系统十二:特定维度管理器

是一种支持组织特定维度设计特征的ETL结构的占位符。
1,日期、时间维度:唯一一种在数据仓库项目开始时,就完整定义的维度。
2,杂项维度:涉及从事实表中删除所有关键属性后遗留下来的文本和繁杂的标识

建立杂项维度行的结构

3,微型维度:在大型维度中当 SCD2技术不可用时使用。非常大,复杂的维度 通常需要多个微型维度。
4,缩减子集维度:其行或列是基维度的子集。根据基维度建立一致性缩减维度,而不是独立于基维度,以确保一致性。
4,小型静态维度:有ETL系统在没有真实外部来源的情况下建立。这些维度通常是小型的查询维度,在维度操中操作型代码被转换为字词。查询维度简单的由ETL小组直接建立
5,用户维护的维度:适当由业务用户部门负责维护这些属性。DW/BI小组需要提供适当的接口。ETL系统应该为新行添加默认属性值,并且有负责维护的用户进行更新,否则他们让然会以默认描述的方式出现在报表中。


数据僧 历史文章

数据仓库-概述-读书笔记一
数据仓库-DW/BI架构对比-读书笔记二
数据仓库-事实表/维度表技术-读书笔记三
维度处理-数据仓库-读书笔记(四)
数据仓库-高级事实表技术-读书笔记五
数据仓库-高级维度表技术-读书笔记六
数据仓库,零售业务举例,维度模型设计4步骤,读书笔记(七)
数据仓库-零售业务举例维度表设计细节-读书笔记(八)
数据仓库-零售业务举例如何提高仓库扩展能力-读书笔记(九)
数据仓库-零售业务中库存如何设计-读书笔记(十)
如何使用缓慢变化维技术
数据仓库-订单管理应该注意那些
ETL中前期数据分析、变化数据探测,数据获取 注意事项
数据仓库基础概念分享
ETL过程的数据清洗和整合


数据僧 参考资料

数据仓库工具箱


如果您觉得我用心了,觉得您有所收获,麻烦关注下我吧,您的关注就是我的动力,因为有你,我就不是一个人在前行。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 213,928评论 6 493
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,192评论 3 387
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 159,468评论 0 349
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,186评论 1 286
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,295评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,374评论 1 292
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,403评论 3 412
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,186评论 0 269
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,610评论 1 306
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,906评论 2 328
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,075评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,755评论 4 337
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,393评论 3 320
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,079评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,313评论 1 267
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,934评论 2 365
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,963评论 2 351

推荐阅读更多精彩内容