Spark数据倾斜

Spark数据倾斜表现

1.Executor lost,OOM,Shuffle过程出错

2.DriverOOM

3.任务卡在某个阶段

4.正常任务突然失败

Spark定位数据倾斜

Spark数据    倾斜只会在shuffle阶段

初现数据倾斜可能是使用了一下产生shuffle的算子：distinct、groupByKey、reduceByKey、aggregateByKey、cogroup、repartition

Spark数据倾斜解决方案


©著作权归作者所有,转载或内容合作请联系作者
平台声明：文章内容（如有图片或视频亦包括在内）由作者上传并发布，文章内容仅代表作者本人观点，简书系信息发布平台，仅提供信息存储服务。

推荐阅读更多精彩内容