数据中台

什么是中台

最近一段时间,"中台"这个概念火起来。感觉过去几年没人提的东西,一下子成为了众人口中的"我们公司已经做好多年"的产品。当然,很简单就能查到阿里在15年就提出过"大中台,小前台"的定义,大力发展中台,但是,很多公司还走在平台化的路上,中台,还只是概念。
在公开的资料里,对中台没有什么明确的定义(一如"云"的定义一样,笼统概括),按照我的理解,就是前台(具体业务)与后台(基础服务)之间的,既贴近业务,又能抽取共性的部分组成的。核心词是,把公司各个产品从孤舟链接起来,铁锁连舟,互通有无。
中台包括业务中台移动中台数据中台

  • 业务中台
    公司中各个产品的用户信息/订单/支付等信息打通,更利于子产品的发展。
  • 移动中台
    一如开发游戏的unity引擎,移动中台的重点是平台无关,包括客户端开发框架/网络/测试/运维/消息推送等内容。能做到快速适应各种平台。
  • 数据中台
    对数据比较熟悉,数据中台重点说一下。

数据中台

如果说业务是按产品独立的,那数据就有可能是按照功能独立的。数据孤岛现象非常明显,使用数据难度很大。在此基础上,数据中台应运而生。
一言以蔽之,数据中台,就是和数据相关的内容整合到一起,对外提供一站式的数据服务
数据相关的内容,包括

  1. 基础服务
    基本的大数据框架,Hadoop,spark,hbase,等的安装优化维护。

作为服务器的硬件,依然可以由基础架构部门负责。

  1. 日志规范
    对公司各个产品的日志制定唯一规范,包括共用日志统一名称,非共有日志命名规则等。
  2. 数据仓库
    数据接入,ETL,数据仓库,数据主题。
  3. 数据分析/数据挖掘/用户画像
    全局分析/产品分析/公共画像/产品画像。
  4. 数据工具
    报表系统/多维查询系统/元数据/调度/质量监控。
数据流程以及工具平台架构图:
架构图

虽然这就是一个标准的数据流图,但是对于不同时间段,不同数据量级,不同需求紧急度的公司,当然有不同的处理架构方法。
想象一下下面几个公司,应该怎么办。

  1. 初创公司,产品上线只有需要看到数据
  2. 拿到融资,产品稳定,用户量上来了,基于更方便以及更安全的角度考虑,需要自建数据中心。
  3. 已经有数据团队,和比较成熟的大数据平台。

我的建议

  1. 接入第三方统计平台,比如GA,百度统计,友盟等,根据规则发送数据,查看统计结果。
  2. 从无到有,需要一个时间,直接给一个完整的数据架构图,因为东西太多,让人有无从下手之感,可能一个季度过去了,还没有什么产出,期间业务团队怎们办。这种情况下,要双管齐下,按部就班搭建数据中心平台工具的时候,另外建立数据流,没有flume+kafka收集数据,就定时在业务服务器scp/rsync数据到数据服务器,没有mr/spark来做解析,就手写java/python甚至shell来解析,聚合数据,没有olap平台,就把数据写到mysql里,进行展示。数据建设的过程,不应该影响业务团队的数据使用。(自从16年开源的clickhouse问世之后,这个过程变得简单太多了)。
  3. 没说的,根据需求,缺什么模块就加什么模块吧。

总之,数据工作不是一成不变的,因地制宜才能更好的建设。

小结

这些所有的事情,都不是新的工作内容。数据从产生到使用,线路很长,不同部门的人都参与其中的不同模块,每个人只关注自己负责这一小块,知其然不知其所以然,想了解更多,横跨多个部门的结构也让人望而却步,对个公司以及个人发展都不友好。如果大家在一个架构里面,独立于业务来对数据进行处理,才真是一站式的数据服务。


来自 http://siegehammer.xyz/

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 219,928评论 6 509
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 93,748评论 3 396
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 166,282评论 0 357
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 59,065评论 1 295
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 68,101评论 6 395
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,855评论 1 308
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,521评论 3 420
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,414评论 0 276
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,931评论 1 319
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 38,053评论 3 340
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 40,191评论 1 352
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,873评论 5 347
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,529评论 3 331
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 32,074评论 0 23
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 33,188评论 1 272
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 48,491评论 3 375
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 45,173评论 2 357