Spark内存空间管理

http://arganzheng.life/spark-executor-memory-management.html

https://zhuanlan.zhihu.com/p/115888408

调优方面的:https://blog.csdn.net/a805814077/article/details/106682741/?utm_medium=distribute.pc_relevant.none-task-blog-baidujs_title-3&spm=1001.2101.3001.4242

依照java内存的划分,其堆内存分为eden、survivor*2和tenured部分,同时刻只有一个survivor可用,因而指定的堆内存实际可用的内存即Runtime.getRuntime.maxMemory查到的通常比Xmx指定的要小,一般为90-95%的样子,在这5g的executor中其值为4772593664,约为88%。

(4772593664-300102401024)0.6=值为2.67G,这就是上面看到的2.7G的来源,实际这里显示时不是将字节除以102410241024,而是直接除以10001000*1000得到的。

简单点:(5G * 90% -0.3)*0.6 = 2.52 实际上比这个大一点点

©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

相关阅读更多精彩内容

  • 《网络》 在浏览器中输入url,回车发生了什么DNS的分级查找3次握手都发送了什么数据包设计路由表查找算法,满足最...
    _ifndef阅读 3,602评论 0 2
  • 参考链接:https://www.52pojie.cn/thread-742703-1-1.html[https:...
    454e298e2b40阅读 6,223评论 0 0
  • 设计模式:https://www.jianshu.com/p/35f76e87ac45[https://www.j...
    luckyShan_95阅读 3,538评论 0 0
  • Handler 机制中,存在哪些角色?各自承担了什么功能? Handler:消息辅助类 & 对外的接口 & 向 M...
    奔跑吧李博阅读 7,309评论 1 22
  • 面试笔记 @resource和@autowired的区别是什么我来答新人答题领红包 https://zhidao...
    DevelopJavaer88阅读 2,967评论 0 0

友情链接更多精彩内容