什么是大数据,很多的朋友可能对大数据不是很了解,迫切需要了解大数据,下面新霸哥将用一句话来让你认识并读懂大数据,大数据就是无法通过人工,在合理时间内达到管理处理并整理成为人类所能解读的信息。
大数据特征
大数据就是无法通过人工的方式来完成数据分析和处理,需要借助工具才能完成相应的数据处理。大数据通常有3个特征:数量,种类,速度。准确的来说可以用大量,多样性,速度快以及价值高和密度低这四大特征来描述大数据。
一、大量性,数据量的级别从GB至、PB、乃至ZB上升,可称为海量,巨量甚至超量。并且以很快的速度在增长。最为典型的就是我们使用的微信,每天都会产生上亿级别的数据,来自不同领域,不同平台的用户都会产生大量的数据,这些数据是在不断的增长的,并且每个时间点都是不一样的,面对这样高速的增加,需要支撑的服务也是有要求的,这就需要有高并发高吞吐量的服务器来支撑。
二、多样性。数据信息由原来的简单数值、字符和文本向网页、图片、视频、图像和位置信息等半结构化和非结构化的数据类型发展,并且有一个通过的特征,信息大多分布在不同的地理位置、不同的存储设备以及不同的数据管理平台。简单的总结为三点:(1)数据来源多,和我们生活密切相关的社交应用像微博、微信、社交网站等等。(2)数据类型繁多,来自同一个平台可能就有不同的数据类型,图片,视频等等。(3)数据之间的关联性强,交互频繁,大型电子商务网站和社交网络中,一些用户的点击行为在一定程度上反映了该用户潜在的兴趣爱好和需求,链接之间的关联性是很强的。
三、快速化,大数据多数据的处理也是有一定的要求的,有的应用要求对数据的处理做到实时、快速。比较常见的就是我们最好的1元购,每次都有来自不同区域的海量数据,要在一定的时间内完成数据的计算和分析,这就需要将分布式计算、并行计算等等深度的结合才能满足需求的。
四、价值高密度低,我们经常会看到很多虚假的信息,通常情况下正在有价值的信息还是很分散的、密度非常低的,要在海量中寻求有价值的信息还是很有技术要求的。
大数据应用
大数据的广泛存在是有一定的商业价值的,现在大数据已经被广泛的应用在医疗,教育,科研等等很多领域,比较常见的就是网络营销,在网上我们会经常遇到这样的问题,我们曾经搜索过的商品或者某个产品在某个网站上有产品推荐,比较常见的就是百度推广,我们在搜索网页的时候会有相关产品的推荐,这就是大数据的一个最为典型的数据分析应用,根据不同用户的不同需求会有不同商品的推荐。
大数据处理技术
有了大数据应用肯定有对于的技术来解决的,最为常见的就是hadoop海量数据离线处理,strom实时在线数据分析处理,spart启用了内存分布数据集,除了能够提供交互式查询外,它还可以优化迭代工作负载。与 Hadoop 不同,Spark 和 Scala 能够紧密集成,其中的 Scala 可以像操作本地集合对象一样轻松地操作分布式数据集。
感兴趣的朋友可以和新霸哥交流共同学习。好了,新霸哥今天就写到这里了,接下来会继续的和大家一起分享更多新知识,当然也可以关注 软件开发信息交流公众号:javaandcp 继续了解详情,新霸哥以"学了么"为目标,专注科技。