基于Centos7安装Ambari+HDP,学习的记录!

Ambari简介

1.Ambari基本介绍

  • Ambari是是 Apache Software Foundation
    中的一个项目,并且是顶级项目,是一种基于Web的工具,支持Apache Hadoop集群的供应、管理和监控
  • Ambari已支持大多数Hadoop组件,包括HDFS、MapReduce、Hive、Pig、Hbase、Zookeeper、Sqoop和Hcatalog等。支持HDFS、MapReduce、Hive、Pig、Hbase、Zookeepr、Sqoop和Hcatalog等的集中管理。也是5个顶级hadoop管理工具之一。
  • 官方链接:Ambari官网
  • 需对hadoop生态圈的各个组件以及环境配置,参数有一定的知识,才建议使用ambari搭建

2.Ambari安装准备工作

2.1虚拟机准备工作

  • 安装好 Centos 7.2, jdk-8u91, mysql5.7.13
  • 准备好ambari-2.7.4.0-centos7.tar.gz,HDP-3.1.4.0-centos7-rpm.tar.gz,HDP-GPL-3.1.4.0-centos7-gpl.tar.gz,HDP-UTILS-1.1.0.22-centos7.tar.gz相关安装包
  • 主节点:master(92.168.238.1)
  • 从节点:node1(192.168.238.2),node2(192.168.238.3)
  • 确保所有节点时间同步;
  • 确保所有节点(master,node1,node2)能互相通信以及能访问外网
2.1.1 资源下载
镜像 下载地址
jdk-8u162-linux-x64 https://download.csdn.net/download/qq_44697847/16840098
mysql https://www.mysql.com/downloads/
ambari-2.7.4.0-centos7.tar.gz https://download.csdn.net/download/qq_44697847/16845882
HDP-3.1.4.0-centos7-rpm.tar.gz https://download.csdn.net/download/qq_44697847/16846206
HDP-GPL-3.1.4.0-centos7-gpl.tar.gz https://download.csdn.net/download/qq_44697847/16846358
HDP-UTILS-1.1.0.22-centos7.tar.gz https://download.csdn.net/download/qq_44697847/16846735
Vmware https://www.vmware.com
xshell+xfdp https://download.csdn.net/download/qq_44697847/16839001
CentOS-7-x86_64 https://download.csdn.net/download/qq_44697847/16838216
2.1.2 虚拟机安装
主机 名称 系统 IP地址 内存 磁盘
Centos1 Master Centos7 192.168.238.1(NAT) 4G 60G
Centos2 Node1 Centos7 192.168.238.2(NAT) 2G 60G
Centos3 Node2 Centos7 192.168.238.3(NAT) 2G 60G
2.1.3 修改节点主机名字
hostnamectl set-hostname master  #master节点-192.168.238.1
hostnamectl set-hostname node1   #node1节点-192.168.238.2
hostnamectl set-hostname node2   #node2节点-192.168.238.3
2.1.4配置主机名到IP的映射关系

需要在master node1 node2 三个节点上的hosts文件上都进行以下操作!

vi /etc/hosts
#添加上以下内容
192.168.238.1  master
192.168.238.2  node1
192.168.238.3  node2
2.1.5防火墙配置

在后续的操作中,需要将防火墙关闭。所有节点都需要进行以下操作

systemctl status firewalld   #查看firewall服务状态
查看防火墙状态
systemctl stop firewalld && systemctl disable firewalld   # 关闭防火墙
关闭防火墙
2.1.6关闭selinux
# 关闭selinux
setenforce 0
vi /etc/selinux/config
SELINUX=disabled

2.2JDK安装

2.1.1JDK安装(当前安装全部在master节点上)

现将JDK包放到相应目录下之后解压/etc/lib/jvm下面

 #保证当前目录下存在 jdk-8u162-linux-x64.tar.gz
 mkdir -p /usr/lib/jvm
 tar -zxvf jdk-8u162-linux-x64.tar.gz  -C /usr/lib/jvm
# 配置环境变量
vi /etc/profile
export JAVA_HOME=/opt/jdk1.8.0_171/
export PATH=$PATH:$JAVA_HOME/bin
#刷新环境变量
source /ect/profile
2.1.2配置免密登录(所有节点)
# master
ssh-keygen
ssh-copy-id master
ssh-copy-id node1
ssh-copy-id node2
# node1
ssh-keygen
ssh-copy-id master
ssh-copy-id node1
ssh-copy-id node2
# node2
ssh-keygen
ssh-copy-id master
ssh-copy-id node1
ssh-copy-id node2
2.1.3将master配置好的jdk发送到node1 node2上面

注意:需要提前在node1 ,node2上创建jvm文件夹,保证 /usr/lib/jvm/路径存在

也可以手动在node1 node2两个节点上重复以上步骤安装jdk

scp -r /usr/lib/jvm/  node1:/usr/lib/jvm/
scp -r /usr/lib/jvm/  node2:/usr/lib/jvm/
scp  /etc/profile/ node1:/usr/lib/jvm/
scp  /etc/profile/ node2:/usr/lib/jvm/

最后不要忘记在node1 node2上执行下列代码 使环境变量生效

source /ect/profile
#分别在master node1 node2上面输入java -version检查是否安装成功
java -version

2.3安装时间同步服务ntp

#安装master
yum install -y ntp
#修改ntp.conf
vi /etc/ntp.conf
server 127.127.1.0
fudge 127.127.1.0 stratum 10

systemctl start ntpd
systemctl enbale ntpd
#node1
yum install -y ntpdate
ntpdate master
#node2
yum install -y ntpdate
ntpdate master

2.4 安装Apache Http服务器

yum install -y httpd
yum start httpd
yum enable http

2.5 关闭大页面压缩(所有节点)

echo never > /sys/kernel/mm/transparent_hugepage/enabled
echo never > /sys/kernel/mm/transparent_hugepage/defrag

2.5 配置yum源(只在master配置)

在/var/www/html 下面创建 ambari,hdp,hdp_util ,hdp_gpl三个文件夹

这里推荐使用xfdp将之恶几个文件放入到虚拟节点上面。

再将 ambari-2.7.4.0-centos7.tar.gz,HDP-3.1.4.0-centos7-rpm.tar.gz,HDP-UTILS-1.1.0.22-centos7.tar.gz ,HDP-GPL-3.1.4.0-centos7-gpl.tar.gz 放入到 /var/www/html路径下

tar -zxvf ambari-2.7.0.0-centos7.tar.gz -C /var/www/html/ambari/
tar -zxvf HDP-3.0.0.0-centos7-rpm.tar.gz -C /var/www/html/hdp
tar -zxvf HDP-UTILS-1.1.0.22-centos7.tar.gz -C /var/www/html/hdp_util/
tar -zxvf HDP-GPL-3.1.4.0-centos7-gpl.tar.gz -C /var/www/html/hdp_gpl

这里我们对yum源进行配置

cd /etc/yum.repos.d
vi ambari.repo
[ambari]
name=ambari
baseurl=http://192.168.238.1/ambari/ambari/centos7/2.7.4.0-897/
gpgcheck=0

注意文件中的baseurl是你自己电脑的实际位置,你可查看解压之后的文件位置,查看里买呢目录,这里推荐使用xfdp去查看

vi hdp.repo
[HDP-3.1]
name=HDP-3.1
baseurl=http://192.168.238.1/hdp/HDP/centos7/3.1.4.0-315/
gpgcheck=0
[HDP-UTILS-1.1.0.22]
name=HDP-UTILS-1.1.0.22
baseurl=http://192.168.238.1/hdp-utils/HDP-UTILS/centos7/1.1.0.22/
gpgcheck=0
[HDP-3.1-GPL]
name=HDP-3.1-GPL
baseurl=http://192.168.238.1/hdp-gpl/HDP-GPL/centos7/3.1.4.0-315/
gpgcheck=0
# 验证
yum repolist

成功之后将配置的yum源发送给node1与node2

#成功之后将配置的yum源发送给node1
scp /etc/yum.repos.d/ambari.repo node1:/etc/yum.repos.d/
scp /etc/yum.repos.d/hdp.repo node2:/etc/yum.repos.d/
#将配置的yum源发送给node2
scp /etc/yum.repos.d/ambari.repo node1:/etc/yum.repos.d/
scp /etc/yum.repos.d/hdp.repo node2:/etc/yum.repos.d/

浏览器输入 http://192.168.238.1/ambari/

http://192.168.238.1/ambari/

2.6 数据库安装(master上安装)

数据库使用MariaDB作为元数据储存的库,在master上安装

# 安装
yum install -y mariadb-server
# 启动 开机自启
systemctl start mariadb && systemctl enable mariadb
# 初始化
mysql_secure_installation

在初始化过程中,我们需要对数据进行配置一下是配置选项

Set root password? [Y/n] Y
Remove anonymous users? [Y/n]  Y
Disallow root login remotely? [Y/n] n
Remove test database and access to it? [Y/n] Y
Reload privilege tables now? [Y/n]  Y

3 安装配置ambari-server

yum install -y ambari-server

3.1配置数据库

#登陆
mysql -uroot -proot
# 创建amabri数据库
create database ambari;
#授权
grant all on ambari.* to ambari@'%' identified by '数据库密码';
grant all on ambari.* to ambari@localhost identified by '数据库密码';
# 使用ambari-server提供的sql脚本创建相关的表
use ambari;
source /var/lib/ambari-server/resources/Ambari-DDL-MySQL-CREATE.sql

3.2将JDBC驱动包复制到指定目录(/usr/share/java)

下载连接:java/mysql-connector-java.jar

mkdir -p /usr/share/java
mv mysql-connector-java-*.jar /usr/share/java/mysql-connector-java.jar

3.3安装ambari-server

ambari-server setup

配置信息

OK to continue [y/n] (y)? y

Customize user account for ambari-server daemon [y/n] (n)? y

Checking JDK...
[1] Oracle JDK 1.8 + Java Cryptography Extension (JCE) Policy Files 8
[2] Custom JDK
==============================================================================
Enter choice (1): 2

Enable Ambari Server to download and install GPL Licensed LZO packages [y/n] (n)? n

Enter advanced database configuration [y/n] (n)? y

Choose one of the following options:
[1] - PostgreSQL (Embedded)
[2] - Oracle
[3] - MySQL / MariaDB
[4] - PostgreSQL
[5] - Microsoft SQL Server (Tech Preview)
[6] - SQL Anywhere
[7] - BDB
==============================================================================
Enter choice (1): 3

Hostname (localhost):master

Port (3306): 3306
#后面的几个问题直接按 enter键
#启动ambari-server
ambari-server start

3.4 安装和配置ambari-agent(所有节点)

# 安装
yum install -y ambari-agent
# 配置
vi /etc/ambari-agent/conf/ambari-agent.ini 
[server]
hostname=master
#启动
ambari-agent start

3.5安装成功访问

http://192.168.238.3:8080

出现登录界面,默认管理员账户登录,账户:admin 密码:admin

ambari的安装到这就结束了,但是这只是一个安装,后续可以更具你自己的需要,来使用ambari的web页面去安装一下组件,笔记hpd ,hbase, hive等等

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 212,383评论 6 493
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 90,522评论 3 385
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 157,852评论 0 348
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,621评论 1 284
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 65,741评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,929评论 1 290
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,076评论 3 410
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,803评论 0 268
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,265评论 1 303
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,582评论 2 327
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,716评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,395评论 4 333
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,039评论 3 316
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,798评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,027评论 1 266
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,488评论 2 361
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,612评论 2 350

推荐阅读更多精彩内容