什么是Checkpointing Checkpointing可以將RDD從其依賴關(guān)系中抽出來，保存到可靠的存儲系統(tǒng)（例如HDFS，S3等)， 即...
投稿
收錄了13篇文章 · 4人關(guān)注
-
關(guān)于Spark RDD API中的Checkpointing
-
關(guān)于Spark中的常見問題及解決方法(3) —— Aggregations操作
前言 如果你程序中的聚合速度較慢，請先查看 Spark Stragglers/任務(wù)執(zhí)行緩慢部分。 主要癥狀 在執(zhí)行 groupby 操作時，任務(wù)...
-
如何在Spark-shell中停止打印INFO日志
前言 在使用Spark-shell做一些測試時候會產(chǎn)生大量無用的INFO級別的日志，因此想把它們給禁用掉。具體方法如下。 解決方法 - 使用自定...
-
關(guān)于Spark中的常見問題及解決方法(5) ——Driver OutOfMemoryError或Driver Unresponsive
前言 Driver OutOfMemoryError或Driver Unresponsive是一個非常嚴(yán)重的問題，因為它會使我們的Spark應(yīng)用...
-
[Spark學(xué)習(xí)] Spark RDD詳解什么是RDD RDD(Resilient Distributed Datasets)，彈性分布式數(shù)據(jù)集，是Spark的基本數(shù)據(jù)結(jié)構(gòu)。它是一個不可...
-
如何為Spark應(yīng)用程序分配--num-executors，--execuor-cores和--executor-memory
前言 在我們提交spark程序時，應(yīng)該如何為Spark集群配置--num-executors， - executor-memory和--exe...
-
關(guān)于Spark Dataset API中的Typed transformations和Untyped transformations
前言 學(xué)習(xí)Spark源代碼的過程中遇到了Typed transformations和Untyped transformations兩個概念，整理...
-
Spark概述Apache Spark Apache Spark是一個開源的分布式通用計算框架，具有(大部分)內(nèi)存數(shù)據(jù)處理引擎，可以對大量的數(shù)據(jù)靜態(tài)或者動態(tài)地...
-
Spark應(yīng)用程序剖析
Spark應(yīng)用程序剖析 每個Spark應(yīng)用程序都從創(chuàng)建SparkContext開始。 若沒有SparkContext，則不能啟動計算（如Spar...
-
Spark程序的配置
Spark Application’s Configuration 提示：有關(guān)如何配置Spark和用戶程序的詳細信息，請參閱官方文檔中的Spar...
{var%20f='http://v.t.sina.com.cn/share/share.php?appkey=1881139527',u=z||d.location,p=['&url=',e(u),'&title=',e(t||d.title),'&source=',e(r),'&sourceUrl=',e(l),'&content=',c||'gb2312','&pic=',e(p||'')].join('');function%20a(){if(!window.open([f,p].join(''),'mb',['toolbar=0,status=0,resizable=1,width=440,height=430,left=',(s.width-440)/2,',top=',(s.height-430)/2].join('')))u.href=[f,p].join('');};if(/Firefox/.test(navigator.userAgent))setTimeout(a,0);else%20a();})(screen,document,encodeURIComponent,'','','https://upload.jianshu.io/collections/images/1739113/rsz_apache.png', '推薦專題《Spark學(xué)習(xí)筆記》（ 分享自 @簡書 ）','http://www.itdecent.cn/c/3c14a724c4c9?utm_campaign=maleskine&utm_content=collection&utm_medium=reader_share&utm_source=weibo','頁面編碼gb2312|utf-8默認(rèn)gb2312'));){kind=link}