Spark內(nèi)存空間管理

http://arganzheng.life/spark-executor-memory-management.html

https://zhuanlan.zhihu.com/p/115888408

調(diào)優(yōu)方面的:https://blog.csdn.net/a805814077/article/details/106682741/?utm_medium=distribute.pc_relevant.none-task-blog-baidujs_title-3&spm=1001.2101.3001.4242

依照java內(nèi)存的劃分,其堆內(nèi)存分為eden、survivor*2和tenured部分,同時(shí)刻只有一個(gè)survivor可用,因而指定的堆內(nèi)存實(shí)際可用的內(nèi)存即Runtime.getRuntime.maxMemory查到的通常比Xmx指定的要小,一般為90-95%的樣子,在這5g的executor中其值為4772593664,約為88%。

(4772593664-300102401024)0.6=值為2.67G,這就是上面看到的2.7G的來源,實(shí)際這里顯示時(shí)不是將字節(jié)除以102410241024,而是直接除以10001000*1000得到的。

簡(jiǎn)單點(diǎn):(5G * 90% -0.3)*0.6 = 2.52 實(shí)際上比這個(gè)大一點(diǎn)點(diǎn)

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時(shí)請(qǐng)結(jié)合常識(shí)與多方信息審慎甄別。
平臺(tái)聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡(jiǎn)書系信息發(fā)布平臺(tái),僅提供信息存儲(chǔ)服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

  • 《網(wǎng)絡(luò)》 在瀏覽器中輸入url,回車發(fā)生了什么DNS的分級(jí)查找3次握手都發(fā)送了什么數(shù)據(jù)包設(shè)計(jì)路由表查找算法,滿足最...
    _ifndef閱讀 600評(píng)論 0 2
  • 參考鏈接:https://www.52pojie.cn/thread-742703-1-1.html[https:...
    454e298e2b40閱讀 2,185評(píng)論 0 0
  • 設(shè)計(jì)模式:http://www.itdecent.cn/p/35f76e87ac45[https://www.j...
    luckyShan_95閱讀 586評(píng)論 0 0
  • Handler 機(jī)制中,存在哪些角色?各自承擔(dān)了什么功能? Handler:消息輔助類 & 對(duì)外的接口 & 向 M...
    奔跑吧哈哈閱讀 2,639評(píng)論 1 22
  • 面試筆記 @resource和@autowired的區(qū)別是什么我來答新人答題領(lǐng)紅包 https://zhidao...
    DevelopJavaer88閱讀 447評(píng)論 0 0

友情鏈接更多精彩內(nèi)容