windows下安装spark

1、安装jdk

image.png

2、安装scala

image.png

3、下载spark

spark下载地址

image.png

3.1安装spark

  • 将下载的文件解压到一个目录,注意目录不能有空格,比如说不能解压到C:\Program Files
  • 作者解压到了这里,
    image.png
  • 将spark的bin路径添加到path中
    image.png
  • cmd输入spark-shell,成功安装啦,有个报错是因为还没安装Hadoop,
    image.png

4、安装hadoop

  • spark版本为spark-2.3.3-bin-hadoop2.7,我们选择下2.8.5版本的Hadoop
    hadoop下载地址

    image.png

  • 解压
    image.png
  • 添加环境变量,新建一个HADOOP_HOME
    image.png
  • 在path添加
    image.png
  • 到此运行spark-shell还会有没安装的时候那个报错,接下来需要替代Hadoop里的bin文件来解决这个错。

5、下载winutils

  • 下载地址
  • 笔者用的是hadoop2.8.5版本的,下载的winutils上hadoop2.8.3版本的bin,实测也是可行的。
    image.png
  • 接下来将bin替换原来Hadoop中的bin

6、运行spark-shell成功啦

image.png
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容

  • 首先需要安装Java 下载安装并配置Spark 从官方网站Download Apache Spark™下载相应版本...
    LJasperliet阅读 9,640评论 0 2
  • 1.常见调优方法: spark作业经常会出现跑得很慢或者卡死的情况,需要考虑调优。 1.1 任务提交参数调整 最简...
    wong11阅读 7,983评论 1 3
  • Scala语法 至于scala语法而言,大致上和Java的语法类似,增加了一些函数式编程,具体语法可以参考Scal...
    卡卡xx阅读 2,947评论 0 1
  • 由于Spark是用Scala来写的,所以Spark对Scala肯定是原生态支持的,因此这里以Scala为主来介绍S...
    weizier阅读 19,391评论 10 26
  • 2017.05.13 姓名:代利云 公司:宁波慈星股份有限公司 宁波盛和塾《六项精进》235期学员。 【日精进打卡...
    代利云阅读 119评论 0 0