Hadoop生态系统、Hadoop虚拟机环境、Hadoop环境搭建及安装（含安装包与视频教程）

hadoop安装视频讲解:https://www.cniao5.com/course/10244

1.1Hadoop简介

1.1.1Hadoop的诞生

Hadoop是由Apache Lucene创始人Doug Cutting创建的。它起源于开源搜索引擎Apache Nutch。Nutch项目开始于2002年，是一个可以运行的网页爬取工具和搜索引擎系统，但是这个系统无法解决数十亿的搜索问题。

三篇划时代论文的诞生对Hadoop的诞生起到了决定性作用。

第一篇论文：GFS

2003年谷歌发表了 “The Google File System（谷歌文件系统，简称GFS）”的论文，GFS的架构能够满足在网页爬取和索引过程中产生的超大文件的存储需求。于是，在2004年Nutch团队开始做GFS的开源版本实现，也就是Nutch分布式文件系统（NDFS）。

第二篇论文：MapReduce

2004年谷歌发表了“MapReduce：Simplified Data Processing on Large Cluster（大型集群的数据简化处理）”的论文。2005年，Nutch团队在Nutch上实现了MapReduce。

2006年2月，Nutch开发人员将NDFS和MapReduce移除Nutch形成一个独立的项目，命名为Hadoop。这个名字不是缩写，是生造出来的。

第三篇：BigTable

2006年谷歌发表了“BigTable：A Distributed Storage System for Structured Data（一个结构化数据的分布式存储系统）”的论文。Powerset公司根据BigTable的思想，发起了HBase，即Hadoop Database。

1.1.2Hadoop重要里程碑

2008年1月，Hadoop成为Apache的顶级项目。背后主要的公司为雅虎，主要用Hadoop来支撑雅虎的搜索引擎系统。

2013年 Hadoop 2.0发布
2017年 Hadoop 3.0 发布

1.1.3Hadoop主要发行版本

Apache Hadoop原始版本
Cloudera版本（Cloudera’s Distribution Including Apache Hadoop，简称“CDH”）
Hortonworks版本（Hortonworks Data Platform，简称“HDP”）
MapR
此外，还有一些其他的发行版，如华为、Intel等。

1.2Hadoop生态系统

Hadoop从最开始的HDFS和MapReduce发展至今，已经形成一个庞大的生态系统。主要包括：
HDFS：分布式文件系统
YARN：资源管理与调度系统
MapReduce：分布式处理框架
Pig、Hive：类SQL的数据查询
Mahout、Spark MLib：机器学习库
HBase：分布式列数据库
Zookeeper：集群管理
Oozie：任务调度
Flume、Sqoop：数据导入导出
Solr&Lucene：搜索与索引
Ambari：集群监控与维护