就像侦查、讲事故、做研究分析一样,都是需要先交代清楚相关背景,这样才能对事物有更客观的认识。大数据建设也是一样,需要相关背景来支持。
大数据的存在
大数据是全数据模式、允许不精确、混杂多样,基于相关关系分析进行预测的存在。
例如:人们每天都在创造着海量的数据,文字、图像、声音和影像等数据,体现在我们的社交网络、网购 、金融交易、在线影音娱乐等。这些所有的数据对于用户某种行为的相关关系分析来说,就是大数据。
通过上述的例子我们来解析下大数据的存在:
全数据模式就是使用所有的数据进行分析,这是相对随机采样来说的,全数据模式分析更全面,随机采样免不了有偏差的。
为什么允许不精确和混杂多样?
因为大数据更看重数据的价值,大多数事物总是包含多种不同类型的数据,总是存在标准不统一或其他原因导致的数据不精确,但经过处理是非常有价值的,因为能更全面地描述这个事物本身。所以基于用户产生的文字、图像、声音和影像等数据来分析用户某种行为的相关关系。
大数据主要还是基于相关关系分析进行预测,这是相对因果关系分析来说的,大家都习惯于出现问题找原因的思维惯性,但原因是很难找的,需要非常高的代价,目前科学界尚未有用于大数据上的成熟的因果分析方法。知道“是什么”(即相关关系分析预测)的价值也很高,可以帮助我们解决很多问题,例如:谷歌的流感爆发的预测,就是基于用户搜索关键词的大数据进行相关关系分析的预测。
大数据的价值体现
大数据的真实价值就像漂浮在海洋中的冰川,第一眼人们往往只看到冰山一角,而绝大部分都隐藏在表面之下,数据总是从最不可能的地方被提取出来。——来自于维克托•迈尔•舍恩伯格《大数据时代》
这段话把大数据比喻成了数据冰山,说明了大数据的价值隐藏得很深,而且很大。在普通人眼里,数据可能只有一些普通的业务用途,例如:搜索引擎的搜索记录只用于词条排名、搜索结果展示排名等业务用途。在有大数据思维的人眼里,数据的用途可不止普通的业务用途,甚至能造福人类。疫情的期间,各种大数据的利用,都无不体现了大数据的价值。
下面例举三个著名的例子来说明大数据的价值:
大数据与乔布斯的癌症治疗-自身所有DNA的价值。通过自身所有DNA序列与癌症DNA序列多次比对,就能全面地反馈治疗效果。然后调整药方和用药量等,从而能进行最有效的治疗,虽然很遗憾乔布斯还是离开了人世,但大数据的全数据模式分析的价值不可磨灭。
无所不包的谷歌翻译系统-数据混杂、规模庞大的价值。谷歌翻译系统主要利用的数据是全球的互联网数据。尽管其输入源很混乱,但较其他翻译系统而言,谷歌的翻译质量相对而言还是最好的,而且可以翻译的内容更多。之所以能做到这些,是因为它将语言视为能够判别可能性的数据,而不是语言本身。即翻译数据混杂、规模庞大的价值能做到较好的翻译。
蛋挞与台风用品摆在一起的沃尔玛-相关关系的预测价值。沃尔玛利用大数据进行销售情况的相关关系的预测,得出来“当季节性风暴来临时,蛋挞的销量会增加”的结论,于是把蛋挞与台风用品摆在一起,来最大化增加地销售量。虽然不知道用户为什么会有这样的购物行为,但这对于沃尔玛来说,相关关系的预测价值就足够了。
大数据建设的关键
简述下大数据的产生过程:人们进行和参与各项活动,创造了海量的数据,因发展需要,进行大数据的建设和应用。
以上可以看出大数据的项目建设关键是因发展需要而建设的,不要为了追求大数据技术而进行大数据建设,这样会得不偿失。
大家都非常容易看到大数据的各种好处,一旦实践起来又发现大数据技术很难,而陷入了追求技术的怪圈了,总以为技术能解决一切的大数据问题。
其实目前最大的问题是大数据思维的问题,当今时代的IT是重点在T上,而不是在I(数据)上。T即技术已经能处理和分析大数据了,但I即信息本身隐含着巨大的潜在价值等待发现,需要大家的重视。虽然说磨刀不误砍柴工,但不去找柴,哪还能砍柴,而且也不能验证磨刀的方法对不对。
总结
总结起来,大数据的项目建设的关键有以下五点:
- 把数据视为资产,推动业务数据化。
- 不要陷入以技术为导向的误区。
- 全数据模式分析,重视每个数据聚合的价值。
- 允许数据不精确,容纳混杂多样的数据。
- 重点关注相关关系的预测,不纠结于因果关系。