1.1 大数据概念
对于“大数据”(Big data)研究机构Gartner给出了这样的定义:“大数据”是需要新处理模式才能具有更强的决策力、洞察发现力和流程优化能力来适应海量、高增长率和多样化的信息资产。
麦肯锡全球研究所给出的定义是:一种规模大到在获取、存储、管理、分析方面大大超出了传统数据库软件工具能力范围的数据集合,具有海量的数据规模、快速的数据流转、多样的数据类型和价值密度低四大特征。
最小的基本单位是bit,按顺序给出所有单位:bit、Byte、KB、MB、GB、TB、PB、EB、ZB、YB、BB、NB、DB。
它们按照进率1024(2的十次方)来计算:
1 Byte =8 bit
1 KB = 1,024 Bytes = 8192 bit
1 MB = 1,024 KB = 1,048,576 Bytes
1 GB = 1,024 MB = 1,048,576 KB
1 TB = 1,024 GB = 1,048,576 MB
1 PB = 1,024 TB = 1,048,576 GB
1 EB = 1,024 PB = 1,048,576 TB
1 ZB = 1,024 EB = 1,048,576 PB
1 YB = 1,024 ZB = 1,048,576 EB
1 BB = 1,024 YB = 1,048,576 ZB
1 NB = 1,024 BB = 1,048,576 YB
1 DB = 1,024 NB = 1,048,576 BB
1.2 大数据的特征4V
目前来说,大数据的特征还存在一定的争议。但按照普遍被接受的4V,即规模性(volume)、多样性(variety)、价值密度(value)和 高速性(velocity)进行描述。
1:数据量大(volume)
非结构化数据的超大规模增长导致数据集合的规模不断扩大,数据单位已经从GB级到TB级再到PB级,甚至开始以EB和ZB来计数。
2:类型繁多(variety)
大数据的类型不仅包括网络日志、音频、视频、图片、地理位置信息等结构化数据,还包括半结构化数据甚至是非结构化数据,具有异构性和多样性的特点。
3:价值密度低(value)
大数据价值密度相对较低。如随着物联网的广泛应用,信息感知无处不在,信息海量,但价值密度较低,存在大量不相关信息。因此需要对未来趋势与模式作可预测分析,利用机器学习、人工智能等进行深度复杂分析。而如何通过强大的机器算法更迅速地完成数据的价值提炼,是大数据时代亟待解决的难题。虽然单位数据的价值密度在不断降低,但是数据的整体价值在提高。
4:速度快时效高(velocity)
处理速度快,时效性要求高。需要实时分析而非批量式分析,数据的输入、处理和分析连贯性地处理,这是大数据区分于传统数据挖掘最显著的特征。
1.3 大数据应用
将大量的原始数据汇集在一起, 通过数据挖掘等技术分析数据中潜在的规律,预测未来的发展趋势,有助于人们做出正确的决策,从而提高各个领域的运行效率,获得更大的收益。大数据冲击着许多行业,包括金融行业、互联网、 医疗行业、社交网络、零售行业和电子商务等,大数据在彻底地改变着人们的生活。
1.大数据在互联网企业的应用
互联网是最早利用大数据进行精准营销的行业,通过大数据不仅可以为企业进行精准销,还可以快速友好地对用户实施个性化解决方案。IBM大数据提供的服务包括数据分析。
2.大数据在医疗行业的应用
医疗行业拥有大量的病例、病理报告、治愈方案、药物报告等。如果这些数据可以被整理和应用将会极大地帮助医生和病人。人们面对的数目及种类众多的病菌、病毒,以及肿瘤细胞,都处于不断进化的过程中。在发现诊断疾病时,疾病的确诊和治疗方案的确定是最困难的。
3.大数据在金融行业的应用
金融行业的数据具有交易量大、安全级别高等特点。银行在做信贷风险分析的时候,需要大量数据进行相关性分析,但是很多数据来源于政府各个职能部门,包括工商税务、质量监督、检察院法院等,这些数据短期仍然是无法拿到的。
4.大数据在零售行业的应用
零售行业大数据应用有两个层面:一个层面是零售行业可以 了解客户的消费喜好和趋势,购买的其他产品,扩大销售额,也属于精准营销范畴。另外,零售行业还可以通过大数据掌生产厂家是非常宝贵的,零售商的数据信息将会有助于资源的有效利用,降低产能过剩,厂握未来消费趋势,有利于热销商品的进货管理和过季商品的处理。
5.大数据在农业的应用
大数据在农业的应用主要是指依据木来的商业需求预测来进行农牧产品的生产,降低电贱伤农的概率。同时大数据的分析将会更加精确预测木来的天气气候,帮助农牧民做好自售灾害的预防工作。大数据同时也会帮助农民依据消费者的消费习惯来决定增加哪些品种的科植,减少哪些品种的生产,提高单位种植面积的产值,同时有助F快速销售农产品,完成资金回流。
6.大数据在交通行业的应用
目前,交通的大数据应用主要在两个方面:一方面可以利用大数据传感器数据来了解车辆通行密度,合理进行道路规划包括单行线路规划:另一方面可以利用大数据来实现即时信号灯调度,提高已有线路通行能力。
7.大数据在教育行业的应用
教育行业中的考试数据、学籍数据、教师数据、事业数据、经费数据、人口数据、研究数据等都分散在不同的机构和政府部门,很难形成大数据,这是需要统筹考虑解决的问题。
8.大数据在政府机构的应用
政府利用大数据技术可以了解各地区的经济发展情况、各产业发展情况、消费支出和产I效利用自然资源和社会资源,提高社会生产效率。