上一篇文章我們分析了Shuffle的write部分，本文中我們來(lái)繼續(xù)分析Shuffle的read部分。 我們來(lái)看ShuffledRDD中的com...
投稿
收錄了16篇文章 · 30人關(guān)注
-
Spark-Core源碼精讀(15)、Shuffle--Read部分 -
Spark-Core源碼精讀(14)、Shuffle--Write部分前面我們分析了Spark中具體的Task的提交和運(yùn)行過(guò)程，從本文開始我們開始進(jìn)入Shuffle的世界，Shuffle對(duì)于分布式計(jì)算來(lái)說(shuō)是至關(guān)重要...
-
Spark-Core源碼精讀(13)、Task的運(yùn)行流程分析上一篇文章我們著重分析了Task的提交過(guò)程，本文中我們將對(duì)Task的運(yùn)行進(jìn)行詳細(xì)的分析。 我們從CoarseGrainedExecutorBac...
-
Spark-Core源碼精讀(12)、Task的提交流程分析
上一篇文章我們談到，DAGScheduler將Job劃分成由Stage組成的DAG后，就根據(jù)Stage的具體類型來(lái)生成ShuffleMapTas...
-
Spark-Core源碼精讀(11)、Stage的劃分過(guò)程和Task數(shù)據(jù)本地性本文將主要討論兩個(gè)Topic：Stage的劃分過(guò)程和Task數(shù)據(jù)本地性 引子 前面的文章中我們已經(jīng)分析了Spark應(yīng)用程序即Applicatio...
-
Spark-Core源碼精讀(10)、注冊(cè)Application及Executors的啟動(dòng)注冊(cè)流程(二)承接上一篇文章，我們繼續(xù)來(lái)分析Executor的啟動(dòng)過(guò)程，本文主要分為兩部分： 向worker發(fā)送啟動(dòng)Executor的消息 啟動(dòng)完成后向dri...
-
Spark-Core源碼精讀(9)、注冊(cè)Application及Executors的啟動(dòng)注冊(cè)流程(一)接下來(lái)的幾篇文章我們會(huì)結(jié)合源碼來(lái)分析注冊(cè)Application以及啟動(dòng)Executor并向Driver注冊(cè)的具體流程。 上文我們跟蹤源碼到了Sp...
-
Spark-Core源碼精讀(8)、TaskScheduler和SchedulerBackend從本文開始，我們進(jìn)入Spark中的調(diào)度部分，首先本文將對(duì)TaskScheduler和SchedulerBackend的實(shí)現(xiàn)原理進(jìn)行分析。 我們從...
-
Spark-Core源碼精讀(7)、“Driver“服務(wù)啟動(dòng)流程解析
本文將解析Spark中Driver服務(wù)的開啟流程，閑言少敘，直接進(jìn)入源碼。 首先Driver服務(wù)的開啟是在創(chuàng)建Driver的運(yùn)行時(shí)環(huán)境的時(shí)候完成...
-
Spark-Core源碼精讀(6)、SparkContext和SparkEnv
本文我們將詳細(xì)分析SparkContext的源碼。 我們先來(lái)看一下SparkConf： SparkConf SparkContext實(shí)例化的時(shí)候...
{var%20f='http://v.t.sina.com.cn/share/share.php?appkey=1881139527',u=z||d.location,p=['&url=',e(u),'&title=',e(t||d.title),'&source=',e(r),'&sourceUrl=',e(l),'&content=',c||'gb2312','&pic=',e(p||'')].join('');function%20a(){if(!window.open([f,p].join(''),'mb',['toolbar=0,status=0,resizable=1,width=440,height=430,left=',(s.width-440)/2,',top=',(s.height-430)/2].join('')))u.href=[f,p].join('');};if(/Firefox/.test(navigator.userAgent))setTimeout(a,0);else%20a();})(screen,document,encodeURIComponent,'','','https://upload.jianshu.io/collections/images/341172/spark.png', '推薦專題《Spark-core源碼精讀》（ 分享自 @簡(jiǎn)書 ）','http://www.itdecent.cn/c/2ce05f762e45?utm_campaign=maleskine&utm_content=collection&utm_medium=reader_share&utm_source=weibo','頁(yè)面編碼gb2312|utf-8默認(rèn)gb2312'));){kind=link}