ubuntu(docker镜像) yarn配置

节点ip
master : 172.17.0.2 fedora
slave : 172.17.0.3 ubuntu(docker)

完全分布式是相对于standalone节点部署而言的部署方式。
其实这个部署过程中我犯了个错误,就是本机和容器里面都用了root用户= =
因此操作时本机需要su获取超级用户权限。
fedora和centos的亲缘关系,我们可以把能搜集到的centos资料直接拿来用,开搞。
首先docker pull ubuntu获取ubuntu官方镜像。分别创建两个实例,master、slave,并配置好jdk、hadoop环境变量。

snapshot1.png

1.配置hosts文件

修改集群中所有机器的/etc/hosts文件,添加如下配置:

172.17.0.2 master
172.17.0.3 slave

master、slave1、slave2等等,指的是机器的机器名(使用命令hostname可以查看本机的机器名),如果不是机器名的话会报错,并且集群中所有结点的机器名都应该不一样。

所谓修改hostname,不过是把上述配置放在hosts配置文件的头几行就行了= =
(我尝试的是头几行可用,其他也有说是末尾加的都可以吧。)

判断是否配置成功,可以从master命令行直接ping slave试试,ping通即可。

snapshot1.png

题外话:
由于对docker感兴趣的原因,我一开始使用了docker折腾hadoop,部署master和slave。然而容器在创建之后不能通过修改hosts文件改变hostname,hostname命令也不惯用。这样就要重新创建容器,在创建容器时(使用docker run命令),使用-h参数来表明hostname。
如我创建slave节点容器时,sudo docker run -h slave -it --name slave ubuntu /bin/bash
docker start命令没有-h/-hostname参数,因此不能修改正在运行的容器的hostname。

2.SSH无密码登录

安装openssh-server

sudo apt-get install openssh-server```

安装完成后,启动服务

ubnutu

sudo /etc/init.d/ssh start

fedora

sudo systemctl start sshd.service


查看服务是否正确启动:ps -e | grep ssh

设置免密码登录,**去掉**```/etc/ssh/sshd_config```其中2行的注释,每台服务器都要设置:

RSAAuthentication yes

PubkeyAuthentication yes```

生成私钥和公钥:

ssh-keygen -t rsa ```
一直回车= = 效果如图
![snapshot1.png](http://upload-images.jianshu.io/upload_images/53103-adaf9ee3816a5770.png?imageMogr2/auto-orient/strip%7CimageView2/2/w/1240)
尝试两台机器互相ssh登陆,能登陆不报错就pass。
#3.修改hadoop配置文件
######修改hadoop-2.6.0/etc/hadoop/hadoop-env.sh

export JAVA_HOME=/usr/java/jdk1.8.0_25```

hadoop2.6.0/etc/core-site.xml
<configuration>
<property>
        <name>hadoop.tmp.dir</name>
        <value>$HADOOP_HOME/tmp</value>
        <description>Abase for other temporary directories.</description>
    </property>
    <property>
        <name>fs.default.name</name>
        <value>hdfs://master:9000</value>
    </property>
</configuration>
hadoop-2.6.0/etc/hadoop/hdfs-site.xml

<configuration>
<property>
    <name>dfs.namenode.secondary.http-address</name>
    <value>master:9001</value>
</property>
<property>
    <name>dfs.namenode.name.dir</name>
    <value>$HADOOP_HOME/dfs/name</value>
    <description>Path on the local filesystem where the NameNode stores the namespace and transactions logs persistently.</description>
</property>

<property>
    <name>dfs.datanode.data.dir</name>
    <value>$HADOOP_HOME/dfs/data</value>
    <description>Comma separated list of paths on the local filesystem of a DataNode where it should store its blocks.</description>
</property>
<property>
    <name>dfs.replication</name>
    <value>2</value>
    <description>why is 2?????????</description>
</property>
<property>
    <name>dfs.webhdfs.enabled</name>
    <value>true</value>
</property>
</configuration>
cp mapred-site.xml.template mapred-site.xml后修改
<configuration>
    <property>
        <name>mapreduce.framework.name</name>
        <value>yarn</value>
    </property>
</configuration>
slaves文件(节点hostname)
master
slave
hadoop-2.6.0/etc/hadoop/yarn-site.xml
<configuration>
    <property>
        <name>yarn.nodemanager.aux-service</name>
        <value>mapreduce.shuffle</value>
    </property>
    <property>
        <name>yarn.nodemanager.aux-service</name>
        <value>org.apache.hadoop.mapred.ShuffleHandler</value>
    </property>
</configuration>

启动

  • 启动HDFS

使用以下命令分别启动NameNode和DataNode:
bin/hadoop namenode -format
sbin/hadoop-daemon.sh start namenode
sbin/hadoop-daemon.sh start datanode(如果有多个datanode,需使用hadoop-daemons.sh)或者一次启动:sbin/ start-dfs.sh

  • 启动YARN

你可以使用以下命令分别启动ResourceManager和NodeManager:
sbin/yarn-daemon.sh start resourcemanager
sbin/yarn-daemon.sh start nodemanager(如果有多个datanode,需使用yarn-daemons.sh)或者一次启动过:sbin/start-yarn.sh

可能logs文件夹会提示有用户权限问题,chown一下就可以了。
chown -R <user> logs)

结果:

访问http://master:8088 , http://slave:8088:

结果
参考

Ubuntu14.04安装配置Hadoop2.6.0(完全分布式)与 wordcount实例运行
CentOS7安装Hadoop2.7完整流程
http://www.cnblogs.com/kinglau/p/3794433.html
centos安装配置hadoop超详细过程
Hadoop YARN安装部署初探
docker hostname

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 204,793评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 87,567评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 151,342评论 0 338
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,825评论 1 277
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,814评论 5 368
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,680评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,033评论 3 399
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,687评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 42,175评论 1 300
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,668评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,775评论 1 332
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,419评论 4 321
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,020评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,978评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,206评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,092评论 2 351
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,510评论 2 343

推荐阅读更多精彩内容