搭建YARN伪分布式系统

1,在搭建HDFS伪分布式的基础之上,搭建YARN,并启动YARN,搭建HDFS伪分布式文件系统

2,配置YARN

cd /home/zhx/app/hadoop-2.6.0-cdh5.7.0/etc/hadoop/
cp mapred-site.xml.template mapred-site.xml 这个文件本来目录中没有,需要拷贝原来的template的那个文件

vim mapred-site.xml配置mapred-site.xml文件

<configuration>
<property>
       <name>mapreduce.framework.name</name>告诉我们mapreduce这个计算框架最终在那里执行,这里是在yarn之上执行
       <value>yarn</value>
</property>
</configuration>

vim yarn-site.xml配置yarn-site.xml文件,

<configuration>
<property>
       <name>yarn.nodemanager.aux-services</name>告诉我们YARN的nodemanager用的是哪一个services
       <value>mapreduce_shuffle</value>
</property>
</configuration>

3,启动YARN

cd /home/zhx/app/hadoop-2.6.0-cdh5.7.0/sbin/
./start-yarn.sh

4,检查是否启动成功

1,jps命令,多了ResourceManager和NodeManager,说明启动成功
2,浏览器访问,http://主机ip:8088


YARN启动界面.png

5,提交PI的MapReduce作业到YARN上执行

cd /home/zhx/app/hadoop-2.6.0-cdh5.7.0/share/hadoop/mapreduce
hadoop jar hadoop-mapreduce-examples-2.6.0-cdh5.7.0.jar pi 2 3

执行结果.png

浏览器查看.png

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

友情链接更多精彩内容