Hadoop安装配置文件(超详细)

【嵌牛导读】一个Linux小白的角度来讲述亲身经历安装Hadoop的全过程。虽说网上教程是有许多的,但是总感觉或因版本问题或因作者互抄不负责的原因,许多需要强调的细节并没有讲清楚。笔者自己在安装的过程中,由于对Linux不熟悉的原因还是踩了许多坑的,因此把整个过程分享出来。

【嵌牛鼻子】Hadoop

【嵌牛提问】Hadoop安装配置难吗?

【嵌牛正文】

1.创建虚拟机、安装CentOS6.5操作系统;

2.将虚拟机克隆三个;

3.把克隆出来的三个虚拟机修改主机名;vi /etc/sysconfig/network

4.配置网卡:vi /etc/sysconfig/network-scripts/ifcfg-eth0注意:在VMware里克隆出来的CentOS Linux,开机执行命令:ifconfig...没有看到eth0网卡。然后重启网卡又报以下错误:Bringing up interface eth0: Device eth0 does not seem to be present,delaying initialization. [FAILED]解决办法:首先,打开/etc/udev/rules.d/70-persistent-net.rules内容如下面所示:记录下eth1网卡的mac地址接下来,打开/etc/sysconfig/network-scripts/ifcfg-eth0网卡配置文件# vi /etc/sysconfig/network-scripts/ifcfg-eth0将 DEVICE="eth0" 改成 DEVICE="eth1" ,HWADDR="00:0c:29:8f:89:97" 改成上面的mac地址 HWADDR="00:0c:29:50:bd:17"最后,重启网络# /etc/init.d/network restart正常了。

5.添加主机名和IP地址映射关系:sudo vi /etc/hosts添加“主机名IP地址”192.168.46.120 hadoop0192.168.46.121 hadoop1192.168.46.122 hadoop2192.168.46.123 hadoop3

6.关闭防火墙:sudo service iptables stop

7.检查防火墙关闭情况:service iptables status

8.关闭防火墙自启动:chkconfig iptables off

9.查看防火墙自启动情况:chkconfig iptables –list

10.关闭Slinx:(修改配置文件需要重启机器)修改/etc/selinux/config 文件(vi /etc/selinux/config )将SELINUX=enforcing改为SELINUX=disabled重启机器即可

11.配置SSH免密码登录:1)查看是否安装ssh服务命令:yum list installed | grep ssh2)查看进程中是否启动了ssh:ps -Af | grep sshd3)生成当前用户下公私密钥对:ssh-keygen -t rsa -P '' -f ~/.ssh/id_rsa4)复制粘贴主节点的公钥到其他三台主机(从节点)的authorized_keys(文件名位置固定就在~/.ssh下面)中(authorized_keys文件自建,也可以id_rsa.pub改名字为authorized_keys)5)修改authorized_keys权限为644:chmod 644 authorized_keys

12.根目录下建个soft文件夹用来存放jdk和hadoop的安装包:mkdir /soft

13.进入soft文件夹下面,上传jdk和hadoop的安装包:rz 文件名

14.解压:tar -xzvf jdk-8u144-linux-x64.tar.gz

15.解压:tar -xzvf hadoop-2.7.3.tar.gz

16.可以删除压缩包hadoop-2.7.3.tar.gz 和jdk-8u144-linux-x64.tar.gz了:rm –rf hadoop-2.7.3.tar.gz,rm -rf hadoop-2.7.3.tar.gz 。jdk1.8.0_144、hadoop-2.7.3太长,配置环境变量的时候麻烦,修改一下名字:mv jdk1.8.0_144 jdk,mv hadoop-2.7.3 hadoop。

17.在/soft/tmp创建一个文件夹,用来存放HDFS临时文件:mkdir tmp

18.配置JDK环境变量:编辑/etc/profile文件:vi /etc/profile在文档的最后面添加export JAVA_HOME=/soft/jdkexport CLASSPATH=.:$JAVA_HOME/jre/lib/rt.jar:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jarexport PATH=$PATH:$JAVA_HOME/binexport HADOOP_HOME=/soft/hadoopexport PATH=$PATH:$HADOOP_HOME/bin:$HADOOP_HOME/sbin

19.配置生效:source /etc/profile

20.配置core-site.xml文件(先建立文件夹/soft/hadoop/tmp): vi core-site.xmlhadoop.tmp.dir/soft/tmpfs.default.namehdfs://hadoop0:9000

21.配置hdfs-site.xml文件:vi hdfs-site.xmldfs.http.addresshadoop0:50070dfs.namenode.secondary.http-addresshadoop0:50090dfs.replication3

22. 配置vi mapred-site.xml文件(先改名:mv mapred-site.xml.template mapred-site.xml)mapred.job.trackerhadoop0:9001mapred.map.tasks20mapred.reduce.tasks4mapreduce.framwork.nameyarnmapreduce.jobhistory.addresshadoop0:10020mapreduce.jobhistory.webapp.addresshadoop0:19888

23. 配置hadoop-env.sh:vi hadoop-env.sh 这个文件要修改的地方就是JAVA_HOME环境变量,刚才我们设置过JAVA_HOME的,在我的案例里改成如下——# The java implementation to use.export JAVA_HOME=/soft/jdk

24. 配置yarn-env.sh: vi yarn-env.sh yarn的环境配置,同样只需要修改JAVA_HOME就行,找到下面这行——# some Java parametersexport JAVA_HOME=/soft/jdk

25. 配置slaves: vi slaves这是设置从节点hostname的地方,一行一个,我们的例子里只要在文件里写上如下两行就行了hadoop1hadoop2hadoop3

26. 配置yarn-site.xml文件:vi yarn-site.xmlyarn.resourcemanager.addresshadoop0:8032yarn.resourcemanager.scheduler.addresshadoop0:8030yarn.resourcemanager.webapp.addresshadoop0:8088yarn.resourcemanager.resource-tracker.addresshadoop0:8031yarn.resourcemanager.admin.addresshadoop0:8033yarn.nodemanager.aux-servicesmapreduce_shuffleyarn.nodemanager.aux-services.mapreduce.shuffle.classorg.apache.hadoop.mapred.ShuffleHandler

27. 格式化namenode: ./bin/hdfs namenode –format(在/soft/hadoop下进行)

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 203,362评论 5 477
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,330评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,247评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,560评论 1 273
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,580评论 5 365
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,569评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,929评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,587评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,840评论 1 297
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,596评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,678评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,366评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,945评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,929评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,165评论 1 259
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 43,271评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,403评论 2 342

推荐阅读更多精彩内容