一個永遠在路上的架構師，具備前沿架構視野，了解大數(shù)據(jù)起步手法，擅長后端路段的平穩(wěn)駕駛，熟悉代碼的保養(yǎng)和維修
發(fā)簡信
IP屬地：上海
-
-
Spark Core 概念學習
通過對spark core的核心概念學習，可以更好的了解spark的運行機制和生命周期 基本概念： Application: spark應用程序，一個應用程序由一個driv...
-
Spark CBO調優(yōu)
操作場景 SQL語句轉化為具體執(zhí)行計劃是由SQL查詢編譯器決定的，同一個SQL語句可以轉化成多種物理執(zhí)行計劃，如何指導編譯器選擇效率最高的執(zhí)行計劃，這就是優(yōu)化器的主要作用。傳...
-
Spark Core 性能調優(yōu)總結
使用 mapPartitions,按每個分區(qū)計算結果 如果每條記錄的開銷太大，例： rdd.map{x=>conn=getDBConn;conn.write(x.toStri...
-
Spark Core 性能調優(yōu)之配置進程參數(shù)
操作場景 Spark onYARN模式下，有Driver、ApplicationMaster、Executor三種進程。在任務調度和運行的過程中，Driver和Exe...
-
Spark Core 性能調優(yōu)之資源動態(tài)調度（Yarn模式下）
操作場景 對于Spark應用來說，資源是影響Spark應用執(zhí)行效率的一個重要因素。當一個長期運行的服務（比如JDBCServer），若分配給它多個Executor，可...
-
Spark Core 性能調優(yōu)之使用External Shuffle Service提升性能
操作場景 Spark系統(tǒng)在運行含shuffle過程的應用時，Executor進程除了運行task，還要負責寫shuffle數(shù)據(jù)，給其他Executor提供shuffl...
-
Spark Core 性能調優(yōu)之使用廣播變量
操作場景 Broadcast（廣播）可以把數(shù)據(jù)集合分發(fā)到每一個節(jié)點上，Spark任務在執(zhí)行過程中要使用這個數(shù)據(jù)集合時，就會在本地查找Broadcast過來的數(shù)據(jù)集合。如果不使...
-
Spark Core 性能調優(yōu)之設置并行度
操作場景 并行度控制任務的數(shù)量，影響shuffle操作后數(shù)據(jù)被切分成的塊數(shù)。調整并行度讓任務的數(shù)量和每個任務處理的數(shù)據(jù)與機器的處理能力達到最優(yōu)。 查看CPU使...
-
Spark Core 性能調優(yōu)之配置內(nèi)存
操作場景 Spark是內(nèi)存計算框架，計算過程中內(nèi)存不夠對Spark的執(zhí)行效率影響很大。可以通過監(jiān)控GC（Garbage Collection），評估內(nèi)存中RDD的大小...
-
Spark Core 性能調優(yōu)之數(shù)據(jù)序列化
操作場景 spark支持兩種方式的序列化： ● Java 原生序列化 JavaSerializer ● Kryo 序列化 KryoSerializer 序列化對于 Spa...
-
-
如果你是程序員，或者有一顆喜歡寫程序的心，喜歡分享技術干貨、項目經(jīng)驗、程序員日常囧事等等，歡迎投稿《程序員》專題。 專題主編：小彤花園 http://www.itdecent.cn/users/4a4eb4feee62/ 【程序員】專題拒稿指北：http://www.itdecent.cn/p/7c8b33b5f63b 投稿須知： 1.收錄相關技術文章，但不限于技術，也可以是項目經(jīng)驗類的文章和程序員日常。 2.文章內(nèi)不得有任何推廣信息。包括但不限于公眾號、微博、微信，更不得在通過投稿后再修改文章加入推廣信息。你可以將這些推廣以及個人信息放在個人主頁介紹里。 3.字數(shù)極少，段落混亂，大段代碼沒有放到代碼框的文章不收錄 4.不相關的內(nèi)容不收錄，請確認文章內(nèi)容和本專題相關 目前針對優(yōu)質作者及愛好者，開設了官方程序員微信群，希望加入請發(fā)簡信給主編小彤花園索取個人微信，主編會將你加入到【程序員】微信群，分享內(nèi)容，收獲知識。添加微信時備注昵稱。
-
-
Hi，很高興在@IT·互聯(lián)網(wǎng)專題遇見你。 收錄范圍：收錄IT&互聯(lián)網(wǎng)行業(yè)觀察與思考，數(shù)碼產(chǎn)品極客體驗分析等類型文章 投稿須知：http://www.itdecent.cn/p/4edc76104c27 專題主編：@若錦 http://www.itdecent.cn/u/e4c63b354a77 官方社群：可聯(lián)系添加 @若錦 加入專題官方社群交流、學習，添加時備注簡書ID。
-
歡迎java愛好者一起交流探討
-
Look, see, and observe<br><br>版權合作事宜請聯(lián)系行距文化：pub@hangju-pub.com
-
-
-
舊詩行
