spark完全分布式集群搭建

第一步:先将单机版安装好

步骤参照:centos spark单机版伪分布式
https://www.jianshu.com/p/40c2a7cd6486

第二步:配置spark-env.sh

# 如果说你的spark就读取本地文件,也不需要yarn管理,不用配
export HADOOP_CONF_DIR=/opt/modules/app/hadoop/etc/hadoop

第三步:配置slaves

添加worker主机列表

hadoop4
hadoop5

第四步:将scala和spark安装包发送给其他节点

在/opt/modules/app目录下运行以下命令

src -r ./scala hadoop4:/opt/modules/app/
spc -r ./scala hadoop5:/opt/modules/app/
src -r ./spark hadoop4:/opt/modules/app/
spc -r ./spark hadoop5:/opt/modules/app/

第五步:配置worker主机的profile

由于每一台安装位置都是一样的,所以我直接将master的profile复制到worker主机
在etc目录下操作

src -r ./profile hadoop4:/etc/
spc -r ./profile hadoop5:/etc/

第六步:开启spark集群

开启spark集群之前现开启hadoop集群

start-dfs.sh

开启spark集群

spark-start-all.sh

spark完全分布式集群搭建完毕

©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容

  • 有很多时候,都是自己一个人孤独的前行。 即使有家人,有朋友,还是一个人逛书店,做决定,看雨,听风。 ...
    敬亭山听风阅读 357评论 0 0
  • 没有写简书,已经融入习惯的动作,我想找很多借口不写简书。 夜深了,白天在小三妹的拍打下很沉的睡了一觉。 我喜欢夜晚...
    知了唯知爱阅读 119评论 0 0
  • 从前,有一个年轻和尚,朝闻暮豉,虔诚修炼。生活平淡,砍柴、挑水、烧水,如此循环往复,3年不曾中断,但还是不得。听说...
    红茶506阅读 2,189评论 0 0
  • 只要是有思想的人,大家都会有上进心,都会有自己的人生梦想!根据个人的认知和眼界,每人的梦想不同罢了!如何让我们的梦...
    康雅姐姐阅读 766评论 0 0