歡迎關(guān)注公眾號“Tim在路上”通常為提高數(shù)據(jù)處理的效率，計算引擎要實現(xiàn)謂詞的下推，而存儲引擎可以根據(jù)下推的過濾條件盡可能的跳過無關(guān)數(shù)據(jù)或文件。不...
投稿
收錄了104篇文章 · 18人關(guān)注
-
[Delta][SQL] Delta開源付費功能，最全分析ZOrder的源碼實現(xiàn)流程 -
[LakeHouse] Delta Lake全部開源，聊聊Delta的實現(xiàn)架構(gòu)歡迎關(guān)注公眾號“Tim在路上”剛剛結(jié)束的Data + AI summit上，Databricks宣布將Delta Lake全部開源。 目前在La...
-
[LakeHouse] 數(shù)據(jù)湖之Iceberg一種開放的表格式歡迎關(guān)注公眾號“Tim在路上”今天來閑談下數(shù)據(jù)湖三劍客中的iceberg。 Iceberg項目2017年由Netflix發(fā)起， 它是在2018年...
-
[SPARK][CORE] 面試問題之 3.2新的特性Push-based Shuffle源碼解析
歡迎關(guān)注公眾號“Tim在路上” Spark 3.2為spark shuffle帶來了重大的改變，其中新增了push-based shuffle機...
-
[SPARK][CORE] 面試問題之談一談Push-based shuffle歡迎關(guān)注公眾號“Tim在路上”在Spark3.2中引入了領(lǐng)英設計的一種新的shuffle方案，今天我們先來了解下其大致的設計原理，之后會再分析其...
-
[SPARK][CORE] 面試問題之什么是 external shuffle service？歡迎關(guān)注公眾號“Tim在路上”在討論external shuffle service的具體實現(xiàn)之前，我們先來回顧下spark shuffle的大...
-
[SPARK][CORE] 面試問題之 Shuffle reader 的細枝末節(jié) （下）歡迎關(guān)注公眾號“Tim在路上” 在Spark中shuffleWriter有三種實現(xiàn)，分別是bypassMergeSortShuffleWrite...
-
[SPARK][CORE] 面試問題之 Shuffle reader 的細枝末節(jié) （上）歡迎關(guān)注微信公眾號“Tim在路上”之前我們已經(jīng)了解了shuffle writer的詳細過程，那么生成文件后會發(fā)生什么呢？以及它們是如何被讀取呢？...
-
[SPARK][CORE] 面試問題之UnsafeShuffleWriter流程解析（下）歡迎關(guān)注微信公眾號“Tim在路上”Unsafe Shuffle的實現(xiàn)在一定程度上是Tungsten內(nèi)存管理優(yōu)化的的主要應用場景。其實現(xiàn)過程實際上...
-
[SPARK][CORE] 面試問題之UnsafeShuffleWriter流程解析（上）歡迎關(guān)注公眾號“Tim在路上”在說UnsafeShuffleWriter 前，需要先細談下Tungsten對內(nèi)存管理的優(yōu)化。當然這里就不展開講了...
{var%20f='http://v.t.sina.com.cn/share/share.php?appkey=1881139527',u=z||d.location,p=['&url=',e(u),'&title=',e(t||d.title),'&source=',e(r),'&sourceUrl=',e(l),'&content=',c||'gb2312','&pic=',e(p||'')].join('');function%20a(){if(!window.open([f,p].join(''),'mb',['toolbar=0,status=0,resizable=1,width=440,height=430,left=',(s.width-440)/2,',top=',(s.height-430)/2].join('')))u.href=[f,p].join('');};if(/Firefox/.test(navigator.userAgent))setTimeout(a,0);else%20a();})(screen,document,encodeURIComponent,'','','https://upload.jianshu.io/collections/images/1668773/crop1538353864654.jpg', '推薦專題《hadoop 大數(shù)據(jù)底層理解》（ 分享自 @簡書 ）','http://www.itdecent.cn/c/73e5aff6d9e3?utm_campaign=maleskine&utm_content=collection&utm_medium=reader_share&utm_source=weibo','頁面編碼gb2312|utf-8默認gb2312'));){kind=link}