Hadoop FAQ

主要记录实际项目中遇到问题以及解决方式。

1、伪分布式部署时,若core-site.xml文件中采用如下图所示配置,其他应用与Hadoop非部署在同一台服务器时,其他应用会无法连上Hadoop。    

    原因:这种情况下,外部访问时会将datanode地址解析为127.0.0.1,导致应用无法正常连上Hadoop。将0.0.0.0修改为实际IP即可。

2、Hadoop的datanode节点分配较大存储空间(40TB以上)或者存储较多文件时,重启服务器,Hadoop初始化速度会比较慢。若服务器重启时应用与Hadoop同时启动,可能会出现应用连接Hadoop失败,这个时候需要应用去重复链接或者等Hadoop初始化完成后再启动应用。

3、多次格式化后无法正常启动datanode节点

查看datanode节点日志信息,报错如下:

原因:多次格式化造成datanode的clusterID和namenode的clusterID不匹配。

解决办法:

根据日志中的路径,cd /home/hadoop/tmp/dfs

能看到data和name两个文件夹,

将name/current下的VERSION中的clusterID复制到data/current下的VERSION中,覆盖掉原来的clusterID(对datanode节点操作)

4、Non DFS Used占用空间变大

现象:通过http://IP:50070 发现NonDFS Used占用空间变大

原因:集群启用了historyserver,这个进程在删除临时文件后没有释放文件句柄,导致Non DFS Used空间增大

解决方式:

    1)、重启hadoop的historyserver

    2)、mr-jobhistory-daemon.sh start historyserver

    3)、重启dfs

5、单机部署时通过服务自启动的方式启动Hadoop服务,有时候服务器断电会出现Hadoop节点未起来。

报错日志:

服务自启动脚本:

解决方式:未解决

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

相关阅读更多精彩内容

  • 首先,我们在使用前先看看HDFS是什麽?这将有助于我们是以后的运维使用和故障排除思路的获得。 HDFS采用mast...
    W_Bousquet阅读 4,489评论 0 2
  • CentOS 7.0 hadoop 安装与配置 蒋小超 2015.04.03 背景介绍 hadoop 是一...
    羽风之歌阅读 8,474评论 1 20
  • Hadoop 集群的安装配置大致为如下流程: 选定一台机器作为 Master 在 Master 节点上配置 had...
    Spike_3154阅读 5,412评论 0 2
  • 之前的有点忘记了,这里在云笔记拿出来再玩玩.看不懂的可以留言 大家可以尝试下Ambari来配置Hadoop的相关环...
    HT_Jonson阅读 3,233评论 0 50
  • 我知道我特么为什么这么多年都放不下了,你在我本想要重新开始的时候,告诉我你已经有新的开始了,所以,我将永远恨你,带...
    寻觅我的萧言缄阅读 260评论 0 0

友情链接更多精彩内容