03.hadoop完全分布式系统环境搭建

一. 机器规划

192.168.28.22:namenode
192.168.28.23:resourcemanager
192.168.28.24:histroyservery与secondarynamenode

二.MAC地址修改

# 查看MAC地址
more /etc/udev/rules.d/70-persistent-net.rules
SUBSYSTEM=="net", ACTION=="add", DRIVERS=="?*", ATTR{address}=="00:0c:29:87:62:86", ATTR{type}=="1", KERNEL=="eth*", NAME="eth0"
# 与网络配置中的MAC地址保持一致
more /etc/sysconfig/network-scripts/ifcfg-eth0 

三.ssh免密码登录

cd ~    #切换用户主目录
rm -rf .ssh  #删除.ssh文件
ssh-keygen -t rsa  #使用rsa加密
Generating public/private rsa key pair.
Enter file in which to save the key (/root/.ssh/id_rsa): 
Created directory '/root/.ssh'.
Enter passphrase (empty for no passphrase): 
Enter same passphrase again: 
Your identification has been saved in /root/.ssh/id_rsa.
Your public key has been saved in /root/.ssh/id_rsa.pub.
The key fingerprint is:
66:cc:1a:e5:18:e5:5d:ea:f7:7c:a6:82:6e:e1:32:da root@bigguider24.com
The key's randomart image is:
+--[ RSA 2048]----+
|        .   .    |
|       o . o     |
|      . o o      |
|       B .       |
|      o S . .    |
|       =  .. o   |
|      .  . o  o o|
|       .o + .  + |
|      ..E=.  ..  |
+-----------------+

ssh-copy-id bigguider22.com  #连接远程主机
The authenticity of host 'bigguider22.com (192.168.28.22)' can't be established.
RSA key fingerprint is a4:b8:5c:8c:a8:03:19:bb:07:9a:3c:95:c1:2f:32:0e.
Are you sure you want to continue connecting (yes/no)? yes
Warning: Permanently added 'bigguider22.com,192.168.28.22' (RSA) to the list of known hosts.
root@bigguider22.com's password: 
Now try logging into the machine, with "ssh 'bigguider22.com'", and check in:

  .ssh/authorized_keys

to make sure we haven't added extra keys that you weren't expecting.


ssh bigguider22.com #测试

四.配置文件修改

# core-site.xml
<configuration>
<property>
    <!--系统文件默认访问入口-->
    <name>fs.defaultFS</name> 
    <value>hdfs://bigguider22.com:8020</value>
</property>
<property>
    <!--系统生成文件的临时目录-->
    <name>hadoop.tmp.dir</name>
    <value>/root/modules/hadoop-2.5.0-cdh5.3.6/data/tmp</value>
</property>
</configuration>

# hdfs-site.xml
<configuration>
<property>
   <!--修改副本数量-->
   <name>dfs.replication</name>
   <value>1</value>
</property>
<property>
    <name>dfs.namenode.secondary.http-address</name>
    <value>bigguider24.com:50090</value>
</property>
<property>
    <name>dfs.permissions.enabled</name>
    <value>false</value>
</property>
</configuration>

# yarn-site.xml
<configuration>
<property> <!--MapReduce运行服务-->
   <name>yarn.nodemanager.aux-services</name>
   <value>mapreduce_shuffle</value>
</property>
     <!--resourcemanager默认为启动的机器-->
     <!--为分布式可以不进行配置,配置一般为主机名-->
<property>
   <name>yarn.resourcemanager.hostname</name>
   <value>bigguider23.com</value>
</property>
</configuration>


# mared-site.xml
<configuration>
<!--使MapReduce运行在YARN上面-->
<property>
  <name>mapreduce.framework.name</name>
  <value>yarn</value>
</property>
<property>
  <name>mapreduce.jobhistory.address</name>
  <value>bigguider24.com:10020</value>
</property>
<!--外部交互地址-->
<property>
<name>mapreduce.jobhistory.webapp.address</name>
   <value>bigguider24.com:19888</value>
</property>
</configuration>

五.配置文件分发

scp -r modules/hadoop-2.5.0-cdh5.3.6/ bigguider23.com:/root/modules
scp -r modules/hadoop-2.5.0-cdh5.3.6/ bigguider24.com:/root/modules

六. 启动服务

# bigguider22.com
hdfs namenode -format
hadoop-daemon.sh start namenode
hadoop-daemon.sh start datanode
yarn-daemon.sh start nodemanager

# bigguider23.com
hadoop-daemon.sh start datanode
yarn-daemon.sh start resourcemanager
yarn-daemon.sh start nodemanager

# bigguider24.com
hadoop-daemon.sh start datanode
yarn-daemon.sh start nodemanager
hadoop-daemon.sh start secondarynamenode
mr-jobhistory-daemon.sh start historyserver

六.时间同步

三台服务器:(修改系统时间 date -s 2017/3/25 )
bigguider22.com 192.168.28.22
bigguider23.com 192.168.28.23
bigguider24.com 192.168.28.24
已bigguider22.com这台机器的时间为标准同步另外两台机器。

1. 配置bigguider22.com机器

#1. 服务设置(ntpd未安装,请自行安装)
service ntpd status
service ntpd start
chkconfig ntpd on
#2. 编辑文件
vim /etc/ntp.conf
driftfile /var/lib/ntp/drift
restrict default kod nomodify notrap nopeer noquery
restrict -6 default kod nomodify notrap nopeer noquery
restrict 127.0.0.1 
restrict -6 ::1
# 1. 代开此处设置对内网主机提供NTP服务
restrict 192.168.28.0 mask 255.255.255.0 nomodify notrap
# 2. 注释掉这些centos默认的对时服务
# server 0.centos.pool.ntp.org iburst
# server 1.centos.pool.ntp.org iburst
# server 2.centos.pool.ntp.org iburst
# server 3.centos.pool.ntp.org iburst

# 3. 添加这两个,外部时间服务器不可用时,设置以本地时间作为时间服务
server 127.127.1.0 # local clock
fudge 127.127.1.0 stratum 10 
includefile /etc/ntp/crypto/pw
keys /etc/ntp/keys

#3. 重启服务
service ntpd restart

2. 配置其他两台机器

# 同步时间
/usr/sbin/ntpdate  bigguider22.com
# 定时执行时间同步
corntab -a  #表示每隔10分钟同步一次时间
0-59/10 * * * * /usr/sbin/ntpdate  bigguider22.com
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 216,591评论 6 501
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,448评论 3 392
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 162,823评论 0 353
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,204评论 1 292
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,228评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,190评论 1 299
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,078评论 3 418
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,923评论 0 274
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,334评论 1 310
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,550评论 2 333
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,727评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,428评论 5 343
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,022评论 3 326
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,672评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,826评论 1 269
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,734评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,619评论 2 354

推荐阅读更多精彩内容