centos6.10单机Hadoop

系统:centos 6.10
jdk:jdk-8u281-linux-x64.tar.gz
hadoop: hadoop-2.10.1.tar.gz
http://mirrors.hust.edu.cn/apache/hadoop/common/hadoop-2.10.1/
1、jdk和hadoop安装包复制解压到服务器,配置环境变量
cd /root
vim .bashrc

export JAVA_HOME=/root/hd/jdk1.8.0_281
export JRE_HOME=${JAVA_HOME}/jre
export CLASSPATH=.:${JAVA_HOME}/lib:${JRE_HOME}/lib
export PATH=${JAVA_HOME}/bin:$PATH

export HADOOP_HOME=/root/hd/hadoop-2.10.1
export PATH=$HADOOP_HOME/bin:$PATH

image.png

修改完环境变量执行:source .bashrc
使用命令查看是否配置OK:java -versionhadoop version
2、修改Hadoop配置文件
cd /root/hd/hadoop-2.10.1/etc/hadoop
image.png

2.1、vim core-site.xml

<configuration>
  <property>
    <name>fs.defaultFS</name>
    <value>hdfs://192.168.2.11:9000</value>
  </property>
  <property>
    <name>hadoop.tmp.dir</name>
    <value>/root/hd/hadoop-2.10.1/tmp</value>
  </property>
  <property>
    <name>hadoop.native.lib</name>
    <value>false</value>
    <description>Should native hadoop libraries, if present, be used.</description>
  </property>
</configuration>

image.png

2.2、vim hadoop-env.sh
image.png

2.3、vim hdfs-site.xml

<configuration>
  <property>
    <name>dfs.replication</name>
    <value>1</value>
  </property>
  <property>
    <name>dfs.secondary.http.address</name>
    <value>192.168.2.11:50090</value>
  </property>
</configuration>

image.png

2.4、cp mapred-site.xml.template mapred-site.xmlvim mapred-site.xml

<configuration>
  <property>
    <name>mapreduce.framework.name</name>
    <value>yarn</value>
  </property>
</configuration>

image.png

2.5、vim yarn-site.xml

<property>
    <name>yarn.resourcemanager.hostname</name>
    <value>192.168.2.11</value>
  </property>
  <property>
    <name>yarn.nodemanager.aux-services</name>
    <value>mapreduce_shuffle</value>
  </property>

image.png

3、启动Hadoop
3.1、格式化hadoop文件
cd /root/hd/hadoop-2.10.1/sbinhadoop namenode -format
image.png

3.2、启动服务
./start-all.sh中途会让输几次密码
3.3、查看服务是否启动
jps
image.png

访问:http://192.168.2.11:50070/
image.png

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容

  • 环境 一台ubuntu 14.04虚拟机。 Hadoop版本:2.6.0。 增加用户 为了隔离Hadoop和其它软...
    doc001阅读 1,870评论 1 9
  • 前言 实验室项目需要部署一个hadoop集群,虽然自己之前用虚拟机也搭建过伪分布式的hadoop集群,但那个时候也...
    复旦猿阅读 6,302评论 0 5
  • 第一步 安装hadoop-common-2.2.0-bin-master 1.下载地址:https://githu...
    cubotudo阅读 1,324评论 0 1
  • HDFS文件系统 HDFS是一个分布式文件系统,采用分而治之的设计思想,将大文件、大批量文件,分布式存放在大量服务...
    spilledyear阅读 1,412评论 0 0
  • 推荐指数: 6.0 书籍主旨关键词:特权、焦点、注意力、语言联想、情景联想 观点: 1.统计学现在叫数据分析,社会...
    Jenaral阅读 5,770评论 0 5