發(fā)簡(jiǎn)信
IP屬地：北京
-
[Delta][SQL] Delta開(kāi)源付費(fèi)功能，最全分析ZOrder的源碼實(shí)現(xiàn)流程歡迎關(guān)注公眾號(hào)“Tim在路上”通常為提高數(shù)據(jù)處理的效率，計(jì)算引擎要實(shí)現(xiàn)謂詞的下推，而存儲(chǔ)引擎可以根據(jù)下推的過(guò)濾條件盡可能的跳過(guò)無(wú)關(guān)數(shù)據(jù)或文件。不...
-
[LakeHouse] Delta Lake全部開(kāi)源，聊聊Delta的實(shí)現(xiàn)架構(gòu)歡迎關(guān)注公眾號(hào)“Tim在路上”剛剛結(jié)束的Data + AI summit上，Databricks宣布將Delta Lake全部開(kāi)源。 目前在La...
-
[LakeHouse] 數(shù)據(jù)湖之Iceberg一種開(kāi)放的表格式歡迎關(guān)注公眾號(hào)“Tim在路上”今天來(lái)閑談下數(shù)據(jù)湖三劍客中的iceberg。 Iceberg項(xiàng)目2017年由Netflix發(fā)起， 它是在2018年...
-
[SPARK][CORE] 面試問(wèn)題之 3.2新的特性Push-based Shuffle源碼解析
歡迎關(guān)注公眾號(hào)“Tim在路上” Spark 3.2為spark shuffle帶來(lái)了重大的改變，其中新增了push-based shuffle機(jī)...
-
[SPARK][CORE] 面試問(wèn)題之談一談Push-based shuffle歡迎關(guān)注公眾號(hào)“Tim在路上”在Spark3.2中引入了領(lǐng)英設(shè)計(jì)的一種新的shuffle方案，今天我們先來(lái)了解下其大致的設(shè)計(jì)原理，之后會(huì)再分析其...
-
[SPARK][CORE] 面試問(wèn)題之什么是 external shuffle service？歡迎關(guān)注公眾號(hào)“Tim在路上”在討論external shuffle service的具體實(shí)現(xiàn)之前，我們先來(lái)回顧下spark shuffle的大...
-
[SPARK][CORE] 面試問(wèn)題之 Shuffle reader 的細(xì)枝末節(jié) （下）歡迎關(guān)注公眾號(hào)“Tim在路上” 在Spark中shuffleWriter有三種實(shí)現(xiàn)，分別是bypassMergeSortShuffleWrite...
-
[SPARK][CORE] 面試問(wèn)題之 Shuffle reader 的細(xì)枝末節(jié) （上）歡迎關(guān)注微信公眾號(hào)“Tim在路上”之前我們已經(jīng)了解了shuffle writer的詳細(xì)過(guò)程，那么生成文件后會(huì)發(fā)生什么呢？以及它們是如何被讀取呢？...
-
[SPARK][CORE] 面試問(wèn)題之UnsafeShuffleWriter流程解析（下）歡迎關(guān)注微信公眾號(hào)“Tim在路上”Unsafe Shuffle的實(shí)現(xiàn)在一定程度上是Tungsten內(nèi)存管理優(yōu)化的的主要應(yīng)用場(chǎng)景。其實(shí)現(xiàn)過(guò)程實(shí)際上...
個(gè)人介紹
抓住生活的蟬
歡迎關(guān)注公眾號(hào) ：Tim在路上
歡迎關(guān)注知乎賬號(hào)：天天來(lái)了
歡迎關(guān)注公眾號(hào) ：Tim在路上
歡迎關(guān)注知乎賬號(hào)：天天來(lái)了