在CentOS 6上轻松搭建Hadoop(本地模式)

在CentOS 6上以本地模式搭建Hadoop(只需六步)

0x00:目录

1、添加特定的组(hadoop)和用户(hduser)

2、配置SSH免密码登录

3、JDK和Hadoop的下载

4、JDK和Hadoop环境设置

5、配置Hadoop

6、启动Hadoop


0x01:过程

1、添加特定的组(hadoop)和用户(hduser)【以root用户登录】

1) groupadd hadoop

2) useradd hduser -g hadoop


2、配置SSH免密码登录

1) 切换到新添加的用户hduser 【以下步骤均以hduser用户执行】

su - hduser

2) 生成公钥

ssh-keygen -t rsa -p ""

3) cat $HOME/.ssh/id_rsa.pub >> $HOME/.ssh/authorized_keys

4) 检查是否设置成功

 ssh localhost

输出信息:

The authenticity of host 'localhost (::1)' can't be established.

RSA key fingerprint is da:80:b4:64:d2:9a:94:92:99:02:7d:b1:ff:4f:d1:ac.

Are you sure you want to continue connecting (yes/no)? yes  【<--这里输入yes】

Warning: Permanently added 'localhost' (RSA) to the list of known hosts.


3、JDK和Hadoop的下载

1)下载JDK

mkdir /home/hduser/Downloads

cd /home/hduser/Downloads

wget http://download.oracle.com/otn-pub/java/jdk/8u77-b03/jdk-8u77-linux-x64.tar.gz

2) 下载Hadoop

wget http://archive.apache.org/dist/hadoop/common/stable1/hadoop-1.2.1.tar.gz


4、JDK和Hadoop环境设置

1) 将下载好的JDK和Hadoop压缩文件复制到/home/hduser/opt下

cp /home/hduser/Downloads/jdk-8u77-linux-x64.tar.gz /home/hduser/opt/

cp /home/hduser/Downloads/hadoop-1.2.1.tar.gz /home/hduser/opt/

2) 解压JDK和Hadoop文件

cd /home/hduser/opt

tar -zxvf jdk-8u77-linux-x64.tar.gz

tar -zxvf hadoop-1.2.1.tar.gz

3) 编辑~/.bash_profile

export JAVA_HOME=/home/hduser/opt/jdk1.8.0_77

export HADOOP_HOME=/home/hduser/opt/hadoop-1.2.1

export CLASSPATH=.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar

export PATH=$JAVA_HOME/bin:$HADOOP_HOME/bin:$PATH:$HOME/bin

注:JAVA_HOME为jdk所在路径,HADOOP_HOME为hadoop所在路径

4)检测Java环境和Hadoop环境

检查Java环境:

java -version

输出信息:

java version "1.8.0_77"

Java(TM) SE Runtime Environment (build 1.8.0_77-b03)

Java HotSpot(TM) 64-Bit Server VM (build 25.77-b03, mixed mode)

检查Hadoop环境:

hadoop

输出信息:

Warning: $HADOOP_HOME is deprecated.

Usage: hadoop [--config confdir] COMMAND

where COMMAND is one of:

....... ......

Most commands print help when invoked w/o parameters.


5、配置Hadoop

1) 进入hadoop所在的配置目录

cd /home/hduser/opt/hadoop-1.2.1/conf

2) 修改hadoop配置文件

共修改四个配置文件:1) hadoop-env.sh 2)core-site.xml 3)hdfs-site.xml 4)mapred-site.xml

对于hadoop-env.sh文件,设置JAVA_HOME的路径为/home/hduser/opt/jdk1.8.0_77

对于core-site.xml文件,配置为:

core-site.xml配置信息

对于hdfs-site.xml文件,配置为:

hdfs-site.xml配置信息

对于mapred-site.xml文件,配置为:

mapred-site.xml配置信息


6、启动Hadoop

1) 格式化namenode

hadoop namenode -format

2) 启动所有Hadoop的守护进程

cd /home/hduser/opt/hadoop-1.2.1/bin

start-all.sh

3) 检查hadoop是否启动正常

jps

输出信息:

11041 TaskTracker

10834 SecondaryNameNode

11111 Jps

10919 JobTracker

10729 DataNode

10623 NameNode

看到这6个进程就说明Hadoop已经正常启动运行。


0x02:备注

如果DataNode没有启动,可以尝试以下办法解决。

cd /home/hduser/opt/hadoop-1.2.1/bin

stop-all.sh

cd /home/hduser/opt/hadoop-1.2.1/logs

将目录下所有的文件删除【但是不要删除history文件夹】

然后重新执行格式化namenode操作

再次启动hadoop所有守护进程进行验证


0x03:参考

http://hadoop.apache.org/docs/r1.2.1/single_node_setup.html

http://www.michael-noll.com/tutorials/running-hadoop-on-ubuntu-linux-single-node-cluster/


文章不足之处,还请批评指正。

文章转载请注明出处,谢谢。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 216,372评论 6 498
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,368评论 3 392
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 162,415评论 0 353
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,157评论 1 292
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,171评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,125评论 1 297
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,028评论 3 417
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,887评论 0 274
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,310评论 1 310
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,533评论 2 332
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,690评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,411评论 5 343
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,004评论 3 325
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,659评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,812评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,693评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,577评论 2 353

推荐阅读更多精彩内容