数据湖和数据仓库的建设,到底为了什么?由此产生的岗位区别在哪

数据湖这个大坑,是怎么挖的?

数据在刚刚开始的时候,还是小体量,就好比创业公司,还不足够引起人们的注意。

但是当数据体量上来了,就好像变成了独角兽。

10个人去银行产生的数据,还能勉强搞定,但是成百上千个呢?甚至更多呢?你会说,银行有oracle这种强大的数据库啊,但是,传统数据库目前来说,只能做到处理、读写、删除一些需求,更多的还是存储数据的用途。

把这些数据聚合在一起分析,数据库做不到。

于是,人们在现有的数据库基础上,对数据进行加工,也就是常说的ETL:抽取、转换、加载。

然后,数据仓库就生成了,里面有各种不同的数据,分成不同的业务包,都是为了数据分析,用于BI和报表上面。

数仓这个概念吧,有了很久了,里面存了很多不同类型的数据,就好比是千万张Excel表格,都在这个仓库里,你要的时候可以查询。

可是时间长了,有人觉得数仓还不够,再造一个概念?我有时候不一定用得到现在的数据,需要过往的数据,怎么办?那就把所有数据汇集在一起,无论是excel还是word,先把这些数据和文件存在一起,等用的时候再说。

数据湖里,可能有如下的这些数据结构:

上面说了,为什么要有这些?都是为了报表和BI,更好地分析业务,给业务赋能。

就好比为什么要有python?说白了,不是减轻工作负担吗?有更快的开发方式为什么不用呢?

我由此想到了一些衍生的岗位:BI工程师,报表工程师,数据仓库工程师,ETL工程师,大数据工程师。

等等,为什么最后一个会出现?大数据和它们是一样的吗?打着大数据旗号,进去变成sql机器的也不是一两个了,哪怕你懂hadoop/hive/hbase,超复杂的sql谁都会写,时间问题罢了。

BI工程师,分为技术类的和非技术类的,非技术类的不会自己取数,老板要一个分析,BI工程师得求ETL工程师帮忙,老板急用,这才可以拿到要分析的数据,并不是仅仅会FineBI和Tableau这些工具就够了的。

做出图表和PPT没什么用,你还得对数据做出一定的解释,而且别人还得看懂,这都是你要做的,你可以理解为高级的数据分析师,但是既要懂业务,也能懂IT。

ETL工程师可不是只有取数这么简单,其实在未来,ETL工程师和数据仓库工程师做的事情,会越来越像,也就是大家所说的越来越“卷”,就好比5年前,产品经理只需要会画原型图就可以了,现在不一样了,加上了不少造概念,做分析的能力。

报表工程师和BI工程师,数据仓库应该是帮了他们的忙,数据都是结构化存储的,更加便于分析了,就拿报表工程师来说,复杂的sql取数基本上不需要了,如果企业的数据仓库做得好,那对报表的影响是显而易见的。

还有,现在都流行自动化了,也就是报表的数据实时更新,而不是原来的N+1(数据到明天才显示),再加上FineReport这样的报表扛把子工具(我只能这么形容),数据量大的时候,企业必须得用到报表工具。

就算是个人,FineReport做报表也比Excel强,如果你说你啥也不会,甚至连Excel都不会,那还是去用FineBI吧。

大数据工程师我就不说了,这个岗位的概念太广了,其实应该细分出来。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 219,589评论 6 508
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 93,615评论 3 396
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 165,933评论 0 356
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,976评论 1 295
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,999评论 6 393
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,775评论 1 307
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,474评论 3 420
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,359评论 0 276
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,854评论 1 317
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 38,007评论 3 338
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 40,146评论 1 351
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,826评论 5 346
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,484评论 3 331
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 32,029评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 33,153评论 1 272
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 48,420评论 3 373
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 45,107评论 2 356

推荐阅读更多精彩内容