大数据一安装vm12+centos7+sftp+Xshell+hadoop2.7.4之一

一.安装简介项

1.安装centos7+vm12+hadoop2.7.4+sftp5+Xshell 5(克隆后不需要考虑网络配置,它是自增长的。选用Nat方式配置网络)

2.修改hostnamehosts

3.关闭防火墙(查看firewall-cmd --state关闭systemctl stop firewalld.service)

4.创建用户zhangting赋权777

5.安装jdk配置jdk环境变量

6.设置时间同步

7.免钥配置

8.安装hadoop配置环境变量

9.Hadoop主从master slave

192.168.136.131master

192.168.136.132slave

9.设置hadoop配置文件

1)配置环境变量hadoop-env.sh

2)配置环境变量yarn-env.sh(资源调度)

3)配置核心组件core-site.xml

4)配置文件系统hdfs-site.xml

5)配置文件系统yarn-site.xml

6)配置计算框架mapred-site.xml(从模版中来复制出来修改内容)

7)在master节点配置slaves文件(将localhost修改成所有的从节点数)

10)复制到从节点

10.创建数据目录hadoopdata

11.启动hadoop

1)格式化文件系统(只能格式化一次,只在master格式,hdfs namenode -format)

2)一种方式是./start-all.sh

另一种方式是./sbin/start-dfs.sh

./sbin/start-yarn.sh

12.验证jps:

1)master

2340SecondaryNameNode

2485 ResourceManager

4166 Jps

1866 NameNode

2)slave

1725 DataNode

2431 Jps

浏览器验证:

http://192.168.136.131:50070/检查namenode和datanode是否正常

http://192.168.136.131:18088/检查Yarn是否正常

执行例子代码验证:是hadoop自带的example中的例子.

二.步骤

1.安装虚拟机

重启成功登录后:

Ifconfig是看不到信息的 用ip

addr命令查看网络配置信息

如果想用ifconfig,

1. yum search ifconfig查询ifconfig命令所在的包名

2.yum install net-tools -y安装包文件

到此centos7+vm12+网络配置完成了。

2.设置192.168.131:hostnamemaster

           192.168.132: hostname slave

设置host



配置jdk

将下载好的jdk,hadoop放到zhangting目录下


我们这个是新安装的,所以不需要查看是不是有老的jdk,也因为我们这个是最小安装,所以一切应用都得自己,也不可能有jdk,在这儿就不去查了。



systemctl status chrony


yum -y install chrony


systemctl start chronyd

systemctl status chronyd


防火墙又开了,真是关不了啊

firewall-cmd --state


systemctl restart chronyd.service开防火墙

systemctl stop firewalld.service关闭防火墙


下面配置免钥配置

修改配置文件中的PubkeyAuthentication yes“#”去掉,子节点也要如此操作。

[root@master .ssh]# cat /etc/ssh/sshd_config

[root@master ~]# ssh-keygen -t dsa -P '' -f~/.ssh/id_dsa

Generating public/private dsa key pair.

Your identification has been saved in/root/.ssh/id_dsa.

Your public key has been saved in/root/.ssh/id_dsa.pub.

The key fingerprint is:

SHA256:KgBNh0/HI9hTqCC+XTut8CiWL3nr4Fi6nYQpKbeNgEsroot@master

The key's randomart image is:

+---[DSA 1024]----+

|.+.+.|

|ooo.* +|

|+..+ + .|

| o. ..|

|+. o S|

|.= + o o|

|OE* = +|

|*#.B +|

|*o@+o|

+----[SHA256]-----+

[root@master ~]# cat ~/.ssh/id_dsa.pub>> ~/.ssh/authorized_keys

[root@master ~]# scp ~/.ssh/authorized_keysslave:~/.ssh/

Slave节点上也要先生成公钥,合开到authorized_keys中,再删除id_dsa.pub文件。

将合并后的authorized_keys文件复制到master的.ssh/authorized_keys.文件中

结果:


su zhangting

密码:yanyan

下面这些操作都是在zhangting用户下操作的

[zhangting@master ~]$ tar -xvfhadoop-2.7.4.tar.gz

配置环境变量hadoop-env.sh

[zhangting@master ~]$ cd hadoop2.7.4/

[zhangting@master hadoop2.7.4]$ ls

binincludelibexecNOTICE.txtsbinsrc

etclibLICENSE.txtREADME.txtshare

[zhangting@master hadoop2.7.4]$ catetc/hadoop/hadoop-env.sh

将它export JAVA_HOME=${JAVA_HOME}

改为

export JAVA_HOME=/home/zhangting/jdk1.8

配置环境变量yarn-env.sh yarn资源调度的使用

[zhangting@master etc]$ cd hadoop/

[zhangting@master hadoop]$ ls

capacity-scheduler.xmlkms-env.sh

configuration.xslkms-log4j.properties

container-executor.cfgkms-site.xml

core-site.xmllog4j.properties

hadoop-env.cmdmapred-env.cmd

hadoop-env.shmapred-env.sh

hadoop-metrics2.propertiesmapred-queues.xml.template

hadoop-metrics.propertiesmapred-site.xml.template

hadoop-policy.xmlslaves

hdfs-site.xmlssl-client.xml.example

httpfs-env.shssl-server.xml.example

httpfs-log4j.propertiesyarn-env.cmd

httpfs-signature.secretyarn-env.sh

httpfs-site.xmlyarn-site.xml

kms-acls.xml

[zhangting@master hadoop]$ vi yarn-env.sh

将它# exportJAVA_HOME=/home/y/libexec/jdk1.6.0/

变成

export JAVA_HOME=/home/zhangting/jdk1.8

配置核心组件core-site.xml

core-site.xml核心组件配置hadoop最核心的位置

fs.defaultFS命名空间(hdfs:)相当于windows中file://

value路径path

[zhangting@master hadoop]$ vi core-site.xml

在之间写上

fs.defaultFS

hdfs://master:9000

hadoop.tmp.dir

/home/zhangting/hadoopdata


配置文件系统yarn-site.xml

yarn调度命令,启一些服务和端口

yarn.resourcemanager.address一个管理者

[zhangting@master hadoop]$ vi yarn-site.xml

yarn.nodemanager.aux-services

mapreduce_shuffle

yarn.resourcemanager.address

master:18040

yarn.resourcemanager.scheduler.address

master:18030

yarn.resourcemanager.resource-tracker.address

master:18025

yarn.resourcemanager.admin.address

master:18141

yarn.resourcemanager.webapp.address

master:18088

配置计算框架mapred-site.xml

复制mapred-site-template.xml文件

[zhangting@master hadoop]$ cpmapred-site.xml.template mapred-site.xml

[zhangting@master hadoop]$ vimapred-site.xml

mapreduce.framework.name

yarn

在master节点配置slaves文件

[zhangting@master hadoop]$ vi slaves

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 216,402评论 6 499
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,377评论 3 392
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 162,483评论 0 353
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,165评论 1 292
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,176评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,146评论 1 297
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,032评论 3 417
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,896评论 0 274
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,311评论 1 310
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,536评论 2 332
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,696评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,413评论 5 343
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,008评论 3 325
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,659评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,815评论 1 269
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,698评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,592评论 2 353

推荐阅读更多精彩内容