HDFS环境搭建

1. 前提条件

  • java
  • ssh
    ubuntu安装ssh
sudo apt-get install ssh
sudo apt-get install rsync
#开启hadoop的时候不用输密码
ssh-keygen -t rsa
cp ~/.ssh/id_rsa.pub ~/.ssh/authorized_keys

2. 配置java环境

 #位置:/etc/hadoop/hadoop-env.sh
  export JAVA_HOME=/usr/java/latest

3.配置core-site.xml

#位置:/etc/hadoop/core-site.xml
<configuration>
 <property>
        <name>fs.defaultFS</name>
        <value>hdfs://localhost:9000</value>
    </property>
#避免linux重启数据丢失
<property>
        <name>hadoop.tmp.dir</name>
        <value>/home/ubuntu/app/tmp</value>
    </property>
</configuration>

4. 配置hdfs-site.xml

#设置副本系数为1,默认为3
<configuration>
  <property>
        <name>dfs.replication</name>
        <value>1</value>
    </property>
</configuration>

5.启动hdfs

(1)格式化文件系统(仅第一次执行)
$ bin/hdfs namenode -format
(2)启动
$ sbin/start-dfs.sh
(3)验证
http://qiniu.backurl.cn/18-12-6/33132610.jpg
http://ip:50070
(4)停止
$ sbin/stop-dfs.sh

©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

相关阅读更多精彩内容

  • 1 java环境配置 宿主机环境 windows10 虚拟机VMware Workstation Pro12 li...
    郭子岩阅读 3,558评论 0 2
  • 1. Zookeeper介绍: 1.基本介绍: Zookeeper: 为分布式应用提供分布式协作(协调)服务。使用...
    奉先阅读 10,089评论 0 10
  • 阳光依旧明媚 春风依旧吹拂 上学路上满是同学 但又似乎无人可寻 也许是这世界太过喧闹 喧闹生出些许寂寥 偶然瞧见 ...
    Hold躬自厚阅读 2,454评论 0 0
  • 爱非坚持 一直坚持喝姜汤.神之业老师 稳固的理念支持 注重理念 晚上的时间最容易不知不觉 早睡的愿望 晚睡对健康的...
    漫步人生孔万华阅读 1,702评论 0 0
  • 混沌未开的城市 文/张超我 城市怕冷了 用棉被一样的浓雾 覆盖的严严实实 混沌未开 也不过如此 我在黑暗里摸索着 ...
    张超我阅读 2,394评论 1 2

友情链接更多精彩内容