Cloudera Hadoop 离线安装

1,前期环境检查

  • hosts文件
  • jdk版本
  • 主机操作系统是否与CDH版本匹配
  • 检查主机hostname是否合法(主机域名不能带'_',血泪史。)
  • ntp时间同步
  • 防火墙(iptables)

官方支持版本检查文档
https://www.cloudera.com/documentation/enterprise/release-notes/topics/rn_consolidated_pcm.html#cm_cdh_compatibility

2,下载cloudera manager相关安装包

官方地址:http://archive.cloudera.com/cm5/

下载包列表

(以5.9.0为例,完整地址:http://archive.cloudera.com/cm5/redhat/7/x86_64/cm/5.9.0/RPMS/x86_64/)

  • cloudera-manager-daemons-5.9.0-1.cm590.p0.249.el7.x86_64.rpm
  • cloudera-manager-server-5.9.0-1.cm590.p0.249.el7.x86_64.rpm
  • cloudera-manager-server-db-2-5.9.0-1.cm590.p0.249.el7.x86_64.rpm
  • oracle-j2sdk1.7-1.7.0+update67-1.x86_64.rpm
  • cloudera-manager-agent-5.9.0-1.cm590.p0.249.el7.x86_64.rpm

3,安装cloudera manager server相关服务

$ sudo yum --nogpgcheck localinstall oracle-j2sdk1.7-1.7.0+update67-1.x86_64.rpm
$ sudo yum --nogpgcheck localinstall cloudera-manager-daemons-5.9.0-1.cm590.p0.249.el7.x86_64.rpm
$ sudo yum --nogpgcheck localinstall cloudera-manager-server-*.rpm

4,启动内置数据库

$ sudo service cloudera-scm-server-db start
# scm 密码:/etc/cloudera-scm-server/db.properties
# postgre 密码: /var/lib/cloudera-scm-server-db/data/generated_password.txt [psql -h localhost -p 7432 -U cloudera-scm -d postgres]

5,启动cloudera manager server服务

$ sudo service cloudera-scm-server start
# 日志目录:/var/log/cloudera-scm-server/cloudera-scm-server.log

6,检查前台页面是否能够访问

地址:hostip:7180/

用户名/密码:admin/admin

6,启动cloudera manager agent服务

# 修改/etc/cloudera-scm-agent/config.ini 中 server_host项
$ vi /etc/cloudera-scm-agent/config.ini
server_host={你搭建的cloudera manager server ip地址}
$ sudo service cloudera-manager-agent start
# 日志目录:/var/log/cloudera-scm-agent/cloudera-scm-agent.log

7,登录页面查看hosts中是否存在这台主机

8,在其他节点安装并配置agent

9,下载CDH安装包

地址:http://archive.cloudera.com/cdh5/parcels

下载包列表

(以cdh5.8.4为例,完整地址:http://archive.cloudera.com/cdh5/parcels/5.8.4/)

  • CDH-5.8.4-1.cdh5.8.4.p0.5-el7.parcel
  • CDH-5.8.4-1.cdh5.8.4.p0.5-el7.parcel.sha1

10,将文件上传至cloudera manager server主机 /opt/cloudera/parcel-repo目录

11,登录CM页面,开始安装服务。


问题排查

agent未启动且无日志信息

问题描述:
$ sudo service cloudera-scm-agent start
Starting Cloudera Manager Agent...

BEGIN /sbin/service cloudera-scm-agent status 
● cloudera-scm-agent.service - LSB: Cloudera SCM Agent 
Loaded: loaded (/etc/rc.d/init.d/cloudera-scm-agent; bad; vendor preset: disabled) 
Active: inactive (dead) 
Docs: man:systemd-sysv-generator(8) 
END (3) 
BEGIN /sbin/service cloudera-scm-agent start 
Starting cloudera-scm-agent (via systemctl): [ OK ] 
END (0) 

# 显示agent服务启动失败,检查/var/log/cloudera-scm-agent目录下只有.out文件,无.log日志文件,执行'/etc/rc.d/init.d/cloudera-scm-agent start'返回值为0。
# 使用CM页面安装时报错如下:
Installation failed. Failed to receive heartbeat from agent.
Ensure that the host's hostname is configured properly.
Ensure that port 7182 is accessible on the Cloudera Manager Server (check firewall rules).
Ensure that ports 9000 and 9001 are not in use on the host being added.
Check agent logs in /var/log/cloudera-scm-agent/ on the host being added. (Some of the logs can be found in the installation details).
If Use TLS Encryption for Agents is enabled in Cloudera Manager (Administration -> Settings -> Security), ensure that /etc/cloudera-scm-agent/config.ini has use_tls=1 on the host being added. Restart the corresponding agent and click the Retry link here.

参考链接:https://community.cloudera.com/t5/Cloudera-Manager-Installation/Installation-failed-Failed-to-receive-heartbeat-from-agent/td-p/53921

解决方案:修改主机hostname(主机名必须符合规范,不能包含下划线'_',如果社区没这先例,我估计只能以死谢罪了)

问题描述:
安装hive服务时使用外置mysql数据库,测试连接报错:
User can't run DDL statements on the specified database. Attempt to create and drop a table failed.

报错信息为执行ddl失败,我们后台使用命令行连接正常,找dba调了半天的权限,还是不行。
后面在页面测试时DBA发现数据库并未建立连接,开始查看官方文档,发现5.8.4版本只支持5.6版本的mysql,而我们DBA使用的是5.7版本。重建5.5版本数据库后解决问题。这报错不是一般的坑,居然说ddl执行失败。

解决方案:检查数据库版本是否在cdh版本支持列表中.

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 194,491评论 5 459
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 81,856评论 2 371
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 141,745评论 0 319
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 52,196评论 1 263
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 61,073评论 4 355
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 46,112评论 1 272
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 36,531评论 3 381
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 35,215评论 0 253
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 39,485评论 1 290
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 34,578评论 2 309
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 36,356评论 1 326
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 32,215评论 3 312
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 37,583评论 3 299
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 28,898评论 0 17
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,174评论 1 250
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 41,497评论 2 341
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 40,697评论 2 335

推荐阅读更多精彩内容