centos7.1安装部署Hadoop

http://blog.csdn.net/u012852986/article/details/51488496

明明之前已经在Ubuntu上部署过Hadoop了,换到CentOS又卡了好久,还是好弱,赶紧写篇博客记录下来。

一、安装JDK,配置环境变量

(1)查看CentOS自带JDK是否已安装

yum list installed|grep java

[图片上传中...(image-714da0-1513668920940-33)]

[图片上传中...(image-b5ea8f-1513668920938-20)]

**这里

我已经安装过了java-1.8.0-openjdk,为了方便演示所以就当做自带环境了,不影响接下来的操作。(这里补充一下jdk和openjdk的区别:简单来讲,openjdk只包含最精简的jdk,而且两者授权协议不同,openjdk采用GPL V2协议,jdk采用JRL,虽然都是开源,但前者可以用于商业,后者只能用于个人)**

(2)卸载自带的Java环境

yum -y remove java-1.8.0-openjdk

(注意不要漏掉*,表示卸载所有openjdk相关文件,-y表示选项默认选yes)

[图片上传中...(image-b60898-1513668920937-4)]

[图片上传中...(image-9b7fb-1513668920937-7)]

(3)查看yum库中的Java包

*yum -y list java

注意*

)**

[图片上传中...(image-5cfd82-1513668920938-19)]

[图片上传中...(image-220169-1513668920937-6)]

(4)使用yum安装Java环境

*yum -y install java-1.8.0-openjdk

注意*

)**

[图片上传中...(image-990a11-1513668920937-3)]

[图片上传中...(image-385943-1513668920936-0)]

安装

完成后,就可以通过java -version和javac来查看刚安装的Java版本信息了

[图片上传中...(image-b4f49b-1513668920937-2)]

[图片上传中...(image-203962-1513668920937-1)]

(5)配置环境变量

vim /etc/profile

添加下面几行内容

[图片上传中...(image-35926f-1513668920938-18)]

[图片上传中...(image-989626-1513668920937-5)]

保存退出之后,再执行source /etc/profile

至此Java环境就配置成功了,接下来是Hadoop的配置。

二、配置Hadoop

(1)下载Hadoop压缩包

wget http://mirror.bit.edu.cn/apache/hadoop/common/hadoop-1.2.1/hadoop-1.2.1.tar.gz

[图片上传中...(image-48952e-1513668920938-17)]

**(

2)解压缩**

tar -zxvf hadoop-1.2.1.tar.gz

[图片上传中...(image-9d28ce-1513668920939-32)]

[图片上传中...(image-ca525a-1513668920938-16)]

**(

3)4个需要配置的文件**

[图片上传中...(image-92961a-1513668920939-31)]

[图片上传中...(image-b6991b-1513668920938-15)]

**(

3-1)配置hadoop-env.sh**

这个文件是hadoop配置的环境变量等信息

vim hadoop-env.sh

[图片上传中...(image-58f914-1513668920939-30)]

[图片上传中...(image-dbfe6e-1513668920938-14)]

**将

这行的注释取消(去掉#)同时修改JAVA_HOME路径为上文配置Java环境变量时的JAVA_HOME路径**

(3-2)配置core-site.xml

这个文件是用做全局配置

vim core-site.xml

[图片上传中...(image-783d57-1513668920939-29)]

[图片上传中...(image-e37302-1513668920938-13)]

**具体

配置情况如上图,其中doarcutine为我主机的hostname,hostname通过输入**

hostname

就可以得到,这里还要注意主机名尽量不要包含特殊符号,centos修改主机名可以通过如下指令

sudo hostname doarcutine

[图片上传中...(image-b7c2b7-1513668920939-28)]

(3-3)配置hdfs-site.xml

这个文件是hdfs的局部配置(hadoop的关键就是hdfs和MapReduce,自然要对这两个分别做设置)

vim hdfs-site.xml

[图片上传中...(image-a350f8-1513668920939-27)]

[图片上传中...(image-283547-1513668920938-12)]

**配置

情况如上图**

(3-4)配置mapred-site.xml(mapred其实就是MapReduce的意思)

vim mapred-site.xml

[图片上传中...(image-8075e5-1513668920939-26)]

[图片上传中...(image-f7ef66-1513668920938-11)]

(4)配置环境变量

vim /etc/profile

添加如下两项内容

[图片上传中...(image-ef91ed-1513668920939-25)]

[图片上传中...(image-f2f862-1513668920938-10)]

**s

ource /etc/profile**

执行之后,可以通过执行

hadoop

[图片上传中...(image-582199-1513668920939-24)]

查看hadoop是否可以正常找到执行程序

[图片上传中...(image-c399fc-1513668920938-9)]

**(

5)格式化namenode**

这里可能遇到问题,见下文(7)

这是执行之前的第一步,为什么要格式化呢?因为hadoop可以看做一个单独的文件系统(准确的说是hdfs),所以就像空硬盘需要格式化一样,通过格式化让存储空间知道以什么方式组织数据。

**hadoop namenode -format (

建议在bin目录下执行

)**

[图片上传中...(image-22f042-1513668920938-23)]

[图片上传中...(image-e3f021-1513668920937-8)]

**(

6)启动start-all.sh**

这里可能遇到问题,见下文(7)

cd /opt/hadoop-1.2.1/bin

进入这个目录下,我们可以看到有start-all.sh这样一个文件,我们可以在任意一个地方执行这个文件。

start-all.sh

启动成功后如下图,输入jps可以看到启动的项目

[图片上传中...(image-954755-1513668920938-22)]

[图片上传中...(image-cf3756-1513668920938-21)]

大功告成

(7)一些可能遇到的问题

(7-1)执行(5)时如果报错,则很有可能是Java路径配置有问题,注意查看/etc/profile和/opt/hadoop-1.2.1/conf/hadoop-env.sh这两个文件中Java路径是否正确。

**(7-2)执行(6)时

如果报错异常了,并且有一句是Caused by: java.lang.RuntimeException: com.sun.org.apache.xerces.internal.impl.io.MalformedByteSequenceException: Invalid byte 1 of 1-byte UTF-8 sequence。那么原因就是当前系统用的语言是GBK,所以需要前面配置的3个xml用GBK编码,当然更好的方式是把系统语言改成utf8,具体修改方法参考http://blog.csdn.net/wave_1102/article/details/45116783**

(7-3)执行(6)总提示localhost的密码不对。

**执行命令 ssh localhost,查看ssh是否可以免密码登录,如果不可以,启动下面命令:

$ ssh-keygen -t dsa -P '' -f ~/.ssh/id_dsa

$ cat ~/.ssh/id_dsa.pub >> ~/.ssh/authorized_keys**

之后应该可以了 如果还是不可以就从新设置一下ssh文件权限之后再执行上述命令应该就可以了

**(7-4)执行jps后,进程数目不正常(比截图中要少,只有其中的个别几个),这个原因在于配置文件中主机名错误,建议修改为一个没有特殊字符的主机名,修改方式见(3-2),然后/opt/hadoop-1.2.1/conf/core-site.xml和

/opt/hadoop-1.2.1/conf/mapred-site.xml修改两个文件中主机名。**

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 214,377评论 6 496
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,390评论 3 389
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 159,967评论 0 349
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,344评论 1 288
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,441评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,492评论 1 292
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,497评论 3 412
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,274评论 0 269
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,732评论 1 307
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,008评论 2 328
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,184评论 1 342
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,837评论 4 337
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,520评论 3 322
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,156评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,407评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,056评论 2 365
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,074评论 2 352

推荐阅读更多精彩内容