發(fā)簡(jiǎn)信
IP屬地：廣東
-
hadoop常見(jiàn)的面試題一、hdfs上傳和下載文件流程 hdfs上傳 客戶端向namenode發(fā)出請(qǐng)求建立通信獲得存儲(chǔ)文件塊的datanode節(jié)點(diǎn),然后客戶端將文件按照...
-
hadoop設(shè)計(jì)原理一、hadoop概念 Hadoop由兩部分組成，一是負(fù)責(zé)存儲(chǔ)與管理文件的分布式文件系統(tǒng)HDFS、二是負(fù)責(zé)處理與計(jì)算的MapReduce的計(jì)算框架...
-
DAGScheduler源碼分析(stage劃分算法)
DAGScheduler的stage劃分算法總結(jié):會(huì)從觸發(fā)action操作的那個(gè)rdd開(kāi)始反向解析,首先會(huì)為最后一個(gè)rdd創(chuàng)建一個(gè)stage,反...
-
Spark性能優(yōu)化之shuffle性能優(yōu)化1.沒(méi)有開(kāi)啟consolidation機(jī)制的性能低下的原理剖析 2.開(kāi)啟consolidation機(jī)制的性能低下的原理剖析 new SparkC...
-
Spark性能優(yōu)化之?dāng)?shù)據(jù)本地化
一、數(shù)據(jù)本地化背景 數(shù)據(jù)本地化對(duì)于Spark job性能有著巨大的影響。如果數(shù)據(jù)以及要計(jì)算它的代碼一起的,那么性能當(dāng)然非常高，但是，如果數(shù)據(jù)和計(jì)...
-
Spark性能優(yōu)化之提高并行度實(shí)際上Spark集群的資源并不一定會(huì)被充分利用到，所以要盡量設(shè)置合理的并行度，來(lái)充分地利用集群的資源。才能充分提高Spark應(yīng)用程序的性能。 S...
-
Spark性能優(yōu)化之Java虛擬機(jī)垃圾回收調(diào)優(yōu)一、Java虛擬機(jī)垃圾回收調(diào)優(yōu)的背景 如果在持久化RDD的時(shí)候,持久化了大量數(shù)據(jù)，那么Java虛擬機(jī)的垃圾回收就可能成為一個(gè)性能瓶頸。因此Jav...
-
Spark性能優(yōu)化之RDD持久化或Checkpoint1.使用序列化的持久化級(jí)別 除了對(duì)多次使用的RDD進(jìn)行持久化操作之外，還可以進(jìn)一步優(yōu)化其性能。因?yàn)楹苡锌赡?，RDD的數(shù)據(jù)是持久化到內(nèi)存，或者磁盤(pán)...
-
Spark性能優(yōu)化之優(yōu)化數(shù)據(jù)結(jié)構(gòu)
一、前言 其實(shí)主要就是優(yōu)化算子函數(shù),內(nèi)部使用到局部數(shù)據(jù),或是算子函數(shù)外部數(shù)據(jù)，都可以進(jìn)行數(shù)據(jù)結(jié)構(gòu)優(yōu)化,優(yōu)化之后,都會(huì)減少其對(duì)內(nèi)存的消耗和占用。 ...