IDEA集成Spark

1.新建maven工程
2.点击工程项目,添加scala语言环境(注意Spark有对应的Scala版本信息)

图片.png

图片.png

3.maven 中央库中查找相应的Spark包,添加到maven配置中
https://mvnrepository.com/
4.运行时的一些注意事项:
4.1新建的时obj不是class
4.2报的一些启动的问题,可能时Spark和Scala版本不一致(到Spark官网上查找相应的版本)
4.3拷贝一些DemoCode时注意SparkSession和SparkContext区别

©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容