tps:同样方式上传hadoop安装包并且解压到/opt/
同样方式配置hadoop环境
1. 各个服务器节点之间配置免密码登录(对自己也要配置)
- 修改
vi /etc/hosts
- 添加自己三台服务器的ip 以及相对应的主机名
- 格式
192.168.68.131
hadoop4
或者说hadoop4‘s ip hadoop4
- 目的是为了在需要输入各个服务器主机ip的时候 直接输入主机名就可以了,方便记忆。
- 配置ssh免密码登录
ssh-keygen -t rsa
在三台机器上都执行
- 输入
ssh-keygen -t rsa
可以生成rsa私钥和公钥ssh-copy-id -i root@hadoop4
ssh-copy-id -i root@hadoop5
ssh-copy-id -i root@hadoop6
这三条命令都要执行 三台机器总共执行9次, 这样就实现了三台机器之间互相登录不需要密码。
2. 配置文件(7个)本小节所有的文件全在 /opt/hadoop-2.7.2/etc/hadoop/ 全程操作都在/opt/hadoop-2.7.2目录下完成
vi etc/hadoop/hadoop-env.sh
在25行 填写jdk文件目录
vi etc/hadoop/yarn-env.sh
在23行 填写jdk文件目录,注意25行最前面的#去掉
vi etc/hadoop/slaves
将三个机器的主机名添加进去不要多一个字符也不要少一个字符vi etc/hadoop/core-site.xml
- 在<configuration></configuration>里面填写
<property>
<name>fs.defaultFS</name>
<value>hdfs://hadoop4:9000</value>
</property>
<property>
<name>hadoop.tmp.dir</name>
<value>/opt/hadoop-2.7.2/data/tmp</value>
</property>
vi etc/hadoop/hdfs-site.xml
<property>
<name>dfs.namenode.secondary.http-address</name>
<value>hadoop6:50090</value>
</property>
vi etc/hadoop/ mapred-site.xml
在<configuration></configuration>里面填写
<property>
<name>mapreduce.framework.name</name>
<value>yarn</value>
</property>
vi etc/hadoop/ yarn-site.xml
<property>
<name>yarn.nodemanager.aux-services</name>
<value>mapreduce_shuffle</value>
</property>
<property>
<name>yarn.resourcemanager.hostname</name>
<value>hadoop5</value>
</property>
3. 以上步骤在三台虚拟机都要配置
可以利用scp命令快速跨机器复制 scp /opt/hadoop-2.7.2/etc/hadoop/* root@hadoop5:/opt/hadoop2.7.2/etc/hadoop/
4. hdfs格式化
hdfs namenode–format