Hadoop集群搭载经历之hadoop配置

tps:同样方式上传hadoop安装包并且解压到/opt/
同样方式配置hadoop环境


Hadoop环境配置效果

1. 各个服务器节点之间配置免密码登录(对自己也要配置)

    1. 修改vi /etc/hosts
    • 添加自己三台服务器的ip 以及相对应的主机名
    • 格式 192.168.68.131 hadoop4 或者说 hadoop4‘s ip hadoop4
      hosts配置效果
    • 目的是为了在需要输入各个服务器主机ip的时候 直接输入主机名就可以了,方便记忆。
    1. 配置ssh免密码登录ssh-keygen -t rsa在三台机器上都执行
    • 输入ssh-keygen -t rsa 可以生成rsa私钥和公钥
    • ssh-copy-id -i root@hadoop4 ssh-copy-id -i root@hadoop5 ssh-copy-id -i root@hadoop6 这三条命令都要执行 三台机器总共执行9次, 这样就实现了三台机器之间互相登录不需要密码。

2. 配置文件(7个)本小节所有的文件全在 /opt/hadoop-2.7.2/etc/hadoop/ 全程操作都在/opt/hadoop-2.7.2目录下完成

  • vi etc/hadoop/hadoop-env.sh
    • 在25行 填写jdk文件目录


      HADOOP-env.sh.png
  • vi etc/hadoop/yarn-env.sh
    • 在23行 填写jdk文件目录,注意25行最前面的#去掉


      env.sh.pngyarn-.png
  • vi etc/hadoop/slaves
    将三个机器的主机名添加进去不要多一个字符也不要少一个字符
    slaves
  • vi etc/hadoop/core-site.xml
    • 在<configuration></configuration>里面填写
      <property>
      <name>fs.defaultFS</name>
      <value>hdfs://hadoop4:9000</value>
      </property>
      <property>
      <name>hadoop.tmp.dir</name>
      <value>/opt/hadoop-2.7.2/data/tmp</value>
      </property>
      core-site。xml.png
  • vi etc/hadoop/hdfs-site.xml
    <property>
    <name>dfs.namenode.secondary.http-address</name>
    <value>hadoop6:50090</value>
    </property>
    hdfs-site.xml.png
  • vi etc/hadoop/ mapred-site.xml
    • 在<configuration></configuration>里面填写
      <property>
      <name>mapreduce.framework.name</name>
      <value>yarn</value>
      </property>


      mapred-site.xml.png
  • vi etc/hadoop/ yarn-site.xml
    <property>
    <name>yarn.nodemanager.aux-services</name>
    <value>mapreduce_shuffle</value>
    </property>
    <property>
    <name>yarn.resourcemanager.hostname</name>
    <value>hadoop5</value>
    </property>
    yarn-site.xml.png

3. 以上步骤在三台虚拟机都要配置

可以利用scp命令快速跨机器复制 scp /opt/hadoop-2.7.2/etc/hadoop/* root@hadoop5:/opt/hadoop2.7.2/etc/hadoop/

4. hdfs格式化

hdfs namenode–format

5. 配置完成

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容

  • 一、系统参数配置优化 1、系统内核参数优化配置 修改文件/etc/sysctl.conf,添加如下配置,然后执行s...
    张伟科阅读 3,792评论 0 14
  • 说明:不少读者反馈,想使用开源组件搭建Hadoop平台,然后再部署Kylin,但是遇到各种问题。这里我为读者部署一...
    大诗兄_zl阅读 2,113评论 0 2
  • 小媛媛
    维娜露阅读 110评论 0 0
  • 不知何时起,你就已经无声无息闯入了我这一片无人区,扰乱我的思绪令我心神不宁。那种感觉久了,就好像染上的毒瘾一般。习...
    纗花湮阅读 294评论 0 1
  • 搜神记就是很多个小故事,简单,也让人琢磨不透。奇人,奇事,很好玩,也觉得干宝的思维太无羁。人要无聊成什么样,才能想...
    纳兰A文若阅读 362评论 0 0