Spark任务异常The auxService spaark_shuffle does not exist

问题现象

Spark任务抛出如下异常:

org.apache.hadoop.yarm.exception.InvalidAuxServiceException: The auxService:spark_shuffle does not exist

问题解决方案

于yarn-site.xml修改或添加如下配置:

<property>
    <name>yarn.nodemanager.aux-services</name>
    <value>spark_shuffle,mapreduce_shuffle</value>
</property>
<property>
    <name>yarn.nodemanager.aux-services.spark_shuffle.class</name>
    <value>org.apache.spark.network.yarn.YarnShuffleService</value>
</property>
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。
禁止转载,如需转载请通过简信或评论联系作者。

推荐阅读更多精彩内容

  • 毛毛虫学飞翔 在稀稀拉拉的牛筋草丛林里,有一只棕褐色的毛毛虫正在赶路,他要赶去蝴蝶谷观赏昆虫界最佳的蝴蝶舞艺术家的...
    苏本子阅读 925评论 0 4
  • 当请求量比较大的时候,而且所有的请求都是短连接的时候。因为每一个连接在结束4次挥手的时候,都会有一个time-wa...
    奥斯特洛司机阅读 2,410评论 0 0
  • 在中国的传统文学观念中,叙事文学,都注重对人物的形象塑造,人物言行举止,包括心理描画,都是刻画人物的重要也最常见的...
    池书木易阅读 1,172评论 6 6
  • 《奥莉薇》是伊恩的第一本童书,却一鸣惊人,该书不仅名列“出版人周刊”的年度畅销绘本第四名,至今仍居纽约时报的每周畅...
    亮乐的姚小姐阅读 1,093评论 0 2
  • 每个人对城市的记忆,其实只是你对这个城市里朋友的记忆,当你所熟悉的那些人一个个远去,你就连走在每天走十次的街道时,...
    一头笨牛的备忘录阅读 425评论 0 5