<BI那些事 1> 我们怎么又回去了?是真回去了吗?

Paste_Image.png

这几天薛之谦火了,他和前任,哦不,前妻,重修旧好,回到原点再出发。恰逢夜阑人静之时,我也仿佛听到很多热烈的掌声,毕竟娱乐圈各种消息如同绿油油的草原上奔腾的野马,这个是难得的正能量,的确难能可贵。

不由得不去想起,BI最近这些年也发生了很多有趣的事,和薛之谦的故事一样,各种回到原点再出发的,很多需求场景让我仿佛回到从前。可真的回到从前了吗?这时的原点和当年的原点真的一样吗?正思忖中,得,我还没回过味来,啪啪啪的打脸,薛之谦的故事瞬间反转了。



嗯,看起来是回不去了,毕竟这中间发生了那么多的故事,这时的原点已经不是那时的原点。相信后面还有几轮对轰,至于谁胜谁败我并不关心,当下这个时代就无非鸡血和狗血最吸引人的眼球,看多了浪费时间。所以还是珍惜时光,让我们冷血点,去听点热血的故事好些。

言归正传,BI有哪些回到原点的故事呢?各位看官且听我娓娓道来。

第一个故事:这个故事年头可久了,那个时候龙儿刚从断肠崖跳下去,嗯,16年前。开产品交流会,当时我们用的是Brio(知道这产品名字的暴露年龄了),向各路用户展示花花绿绿的报表。这个时候有位大哥来到展台,看到我做的东西挑三拣四,表示这也不好那也不好,都是一些看起来有点用其实没什么用的图表。深聊下去,这位是某电网局的电力分析的专业工程师他自己用Foxpro开发了一套几乎完备的离线电力营销分析系统原型,一直希望能够把这套系统重新设计开发实现,但接洽了几个厂商因为不愿意对自己当前的系统做大规模改造因此没有如意合作伙伴。后来我们表示完全可以按照他的思路重新打造,应允后没过几天就去到北京封闭开发原型,大约一周的时候都和他吃住在一起,夜以继日,日以继夜。最后签订合同,这套程序开发完成之后,又向下推广到各个地市,由于完全是客户自己发动的项目,期间他几乎不眠不休的和我们在一起,差不多是最原始的敏捷开发模式,开发效率极高,后来的使用效果也非常好。关于这个项目的一些分析方法收录在盲人摸象 - 不那么高冷的分析方法,时至今日仍有重要的借鉴意义。这么多年过去了,这个给力的客户仍让我记忆犹新,当年的数据分析员现在官应该也不小了。

那为什么我说,我们又回去了呢?我来讲第二个故事。
这个故事很近,就是刚刚的事。中国某教育机构,不说名字了,反正就是非常著名,而且超级有钱的那种。审计的老大找到我,聊了一下需求,需求很简单,他们一帮牛逼得要死的表哥表姐们用Excel弄了一套系统,综合很多数据,然后还能定义规则,用来查企业内部员工的合规问题。但Excel虽然强大,但毕竟做规模大一些的BI的系统有各种各样的麻烦问题,所以想找一快手的专家,用Tableau也好,Qlik也罢弄一套更像样的BI小系统,所有****逻辑人家都非常清楚了,恨不得把VBA代码细致板牙的给你讲讲,数据清洗什么的都不是事,有专门的人负责数据的管理,ETL程序不用复杂,能给我弄到库里就行,要求就是时间短见效快,价格好说,不差钱,工作量可能也就一周左右。是不是和上面的需求超像?看起来没什么规模,但这项目据说直接收益,一年就是帮公司节省个几百万什么的,绝对立竿见影。

对比一下,是不是这俩项目超级像?

  1. 牛逼的客户自带分析体系
  2. 项目规模精巧,短平快的交付的敏捷开发模式
  3. 数据不入数据仓库,直接下游系统数据上报手工整理加载入所谓的Data Mart,其实就是几张表。

我有种梦回唐朝的感觉,这是肿么了?我怎么穿越了?跨度这么长,16年啊,郭襄都长大了,但这俩需求怎么这么像?而且,这俩故事是具有普遍性的,当年为数不多的几个做的不错的项目都是故事一的那种需求,而最近几年故事二的需求突然爆发式的增长。这是偶然的吗?

我们先看看BI人16年前的工作环境。还记得我前面提到过的Foxpro吗?是的,当年其实这是难度更高的自助服务,我也见过非计算机人士用SQL在PowerBuilder里面写程序做分析的。他们也无奈,因为没有现在这么多可以选择的BI工具,当时很多BI公司还没进中国,即使进来的也贵的要死。逼得学电力专业的老哥自己学习Foxpro的开发。他们并没有全局观念,不会从企业视角考虑建什么平台式的数据仓库,BI。他们只盯着自己眼前的东西就足够了,没有精力也没有义务去考虑整个企业。所以需求非常集中,就是精准解决小范围内的业务分析问题。需求够集中,够明确,他们又乐于深度参与,又要非常快的见到效果,所以这就是最早期的典型的敏捷BI。只是从前还没有敏捷BI这名字。

而现在呢?我们先来看一张图:

0.png

这是2017年2月,Gartner的BI工具排名,这图最简单的解读就是第一象限最牛,第三象限最矬。第一象限就仨产品,微软,Qlik和Tableau,别误会微软的产品指的是PowerBI,一定不是SSRS。这三款产品的共同特点就是都是桌面级的BI产品,都超级适合自助服务模式(self service)的数据达人,都是适合敏捷开发的BI利器。
那些从前的大佬呢?Oracle,不是我黑你,你看看你跑到哪去了?
这种现象有多久了呢?我们再看两张图。
这张是2016年的图,和2017年差不多,这仨软件和其他软件的差距拉得还没2017那么大。

0 (1).png

这是2015年的图,我们发现Oracle,IBM,SAP这些老牌BI劲旅还在第一象限。

0.jpeg

而我们看看这些产品的功能,其实从2015到现在,并没有特别大的变化,但排名却变化巨大,原因很简单,就是客户的需求开始发生变化,客户的要求越来越敏捷了,自助服务的需求更多了,对于基于高度平台化的需求热度正在降低。

是真的又回来了吗?显然不是,是BI在不断的进化。对比一下两次看起来很相似的需求,当中很大的不同。



首先, 从系统的角度。
2001年的源系统因为没有良好的信息化建设基础,还是分散在各地的完全异构的数据库系统。所以如果每套系统搞一套ETL,项目也就敏捷不起来了,绝大部分的精力都会弄到ETL上。所以就是由下级各个地区上报dbf文件,再在集团弄个导入就得了。
而2017年的需求,公司已经有一定的数据基础,有可信赖的数据仓库可以提供大部分维度相关的基础数据,另外有一部分数据来自审计系统,最关键的业务数据来自人工整理的Excel系列文件。
目标系统类似,均为小巧的数据集市系统。


总结:和从前相比,信息化基础天翻地覆,并且很重要的,有了数据仓库作为主数据的重要输入。但是,仍相当部分的外部数据需要导入,既有业务数据库数据也有离线的EXCEL文件数据。


再从人员的角度。
01年的项目,完全是甲方数据分析工程师驱动使得项目成功展开并结束,也非常欣慰得到他的领导的大力支持和投入。17年的项目呢?直接就是部门的BOSS主张并驱动,并且,非常有意思的是,最近几年的几个短平快但高利润的项目,都是某部门领导直接启动,这不是偶然的事件。而成员呢,01年就是这一个哥们单打独斗。17年这个呢,部门一票人支持,并且审计部的老大有意招聘程序员来审计部工作,或者把自己的玩EXCEL表的小弟小妹们改造成程序员,您体会一下。
再说IT,01年的项目IT就是来提供台服务器,其实的什么都不管。17年这个有点搞,公司是有专门的数据团队的,统统不用,直接绕开,找独立咨询顾问搞定。原因?几点:
第一、活太小,数据团队瞧不上
第二,企业提供的标准BI工具各种限制,用着不爽
第三,那边开发效率太低,还是自己花钱雇人用着舒服
嗯,您体会一下,一般最后说的都是最重要的。

这不是个例,其他这类项目也是类似的理由。不禁回忆往事,2000年做演示的时候,下面各种白发苍苍的老领导们,连浏览器是神马东西都不知道,更别提BI了,看文档永远只看打印版,还得是特么3号字。您指望他们用BI?您指望他们愿意花钱做BI? 现在的领导们,很多比我还小呢,电脑手机玩得都溜的飞起,您还用担心他们不会用?

总结:组织结构也是翻天覆地的变化,领导有最强烈的需求,还有钱。成建制的数据团队,在业务部也有,在IT也有。


所以,虽然表面上很相似,但骨子里其实变化非常大。这里,我有一点小小的心得分享如下:
为什么业务部连数据部的人都不用?
01年:压根无人可用好不好?
17年:不是自己的人,用着不爽。
很多公司的数据部和其他部门的公司内部项目开发都一塌糊涂,根本也不按项目进行运作,基本上就是谁声音大就做谁的快。话语权不高的部门,基本上优先级就置后。另外,改点东西费劲的要死。而数据分析这种玩意,零七八碎的小活,东改西改的调整,每天几乎都有,很多时候,业务部门等不起。这里,如果您是甲方的数据开发相关人员,尤其是领导,遇到这种情况,就需要反思了,为什么企业内部的客户不肯用你们?

为什么不进数据仓库?

01年:哪有数据仓库?
17年:怕墨迹,传统BI的确是墨迹,又DW,又DM,还得考虑从前的模型是不是能重用,然后再报表开发。成规模的话,进数仓就很有效,但如果就那么几张表,就有些麻烦。

为什么业务部门愿意自己花钱搞?宁可不向上去申请经费?

首先需求规模不大,而且都是刚需。
16年前,是数据工程师的刚需,既是他日常工作所需,也是他职业生涯 重要的里程碑。虽然IT基础建设尚不完备,但这种原始的种子已经萌发,并且强有力的发展。

16年后,一线管理者的刚需,既是她日常管理所需,并且会有非常直接的经济收益,一年查合规有问题的随随便便就是几百万啊,花个5万8万弄几张报表算什么?

那不禁脑子里要有个问号了,这是真需求,那还有假需求吗?是的,我做过太多项目是假需求的了。最大的特点是做完了根本没人用。尤其是自上而下集团硬下发任务给下级部门的,再有就是IT自作聪明做整体BI规划,无视业务部门的项目。这种故事太多了,随便讲几个:
1)最大并发
我讲个笑话,你可别哭啊。
我有次问一电力公司的BI负责人,你们最大并发多少啊?回答曰:各种系统管理员一共8个,所以最大并发估计是8。嗯,做了一堆东西,从来没人用。
2)灵活报表
有个国企的IT老大非常喜欢搞灵活报表,玩得花里胡哨的不用编程,号称一分钟出一张报表。然后表示,下面的业务人员有需求就按这个来,还教业务人员怎么配置。所有报表都一个风格,就是几个筛选条件,然后配一张表格一个图。嗯,对不起,都按这个格式来,没有定制化。给我好一通演示。我问了一句,有人用吗?这哥们回答:业务人员都一群白痴,给他们好工具也不会用。。。。
3)两套需求
集团公司下任务给地市,然后按集团公司做的系统从来没人用,还好,地市自己提出一套需求,使用率颇高。
这种故事一堆一堆的,尤以国企为甚。

再有,就是流程的繁琐,短平快的项目需求很多,但如果走招投标流程就墨迹了,等你招投标都弄完了,我这需求都变了。说白了,就是追求一个字,快。

  1. 为什么这种项目越来越多?
    不是我不明白,这世界变化快。现在整个节奏都变得很快,所以BI也肯定要做到随需而动。这种项目多起来实在太正常了,本来一大块需求按一年交付的时代就应该过去了。

  2. 对我们的职业生涯有什么影响?
    BI人需要思考职业生涯的问题了。现在全栈BI工程师需求量越来越大了,很多单兵能力强的哥们现在非常吃香,懂需求,懂数据库,懂ETL,会做分析,这基本上是全栈BI最起码的要求了。所以还局限在一个小小领域做螺丝的朋友们要小心了。

  3. 从前那些传统的报表工具就没落了吗?
    并不是,因为DNA所限,他们的设计思路本来就是偏平台化的。大家有兴趣可以翻看我的文章盲人摸象 - 对OBIEE与Tableau这两类报表工具的理解

  4. 从01年的BI到今天的BI,经历了哪些演化呢?未来会是如何呢?
    这个我会在以后的故事里面会讲。

天下武功,唯快不破,以后这种故事会越来越多的。
欢迎大家继续关注《BI那些事》的后续故事。

请关注我的微信公众号:信息架构学习笔记


最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 213,335评论 6 492
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 90,895评论 3 387
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 158,766评论 0 348
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,918评论 1 285
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,042评论 6 385
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,169评论 1 291
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,219评论 3 412
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,976评论 0 268
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,393评论 1 304
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,711评论 2 328
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,876评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,562评论 4 336
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,193评论 3 317
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,903评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,142评论 1 267
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,699评论 2 362
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,764评论 2 351

推荐阅读更多精彩内容