前言 之前本來(lái)有一個(gè)個(gè)人博客,但是因?yàn)樘珣袥](méi)有維護(hù),就來(lái)投奔CSDN了。這幾天突然一時(shí)興起,讓好好弄一下自己的個(gè)人博客,因?yàn)镃SDN的廣告實(shí)在是...
前言 在使用Spark-shell做一些測(cè)試時(shí)候會(huì)產(chǎn)生大量無(wú)用的INFO級(jí)別的日志,因此想把它們給禁用掉。具體方法如下。 解決方法 - 使用自定...
前言 Driver OutOfMemoryError或Driver Unresponsive是一個(gè)非常嚴(yán)重的問(wèn)題,因?yàn)樗鼤?huì)使我們的Spark應(yīng)用...
前言 如果你程序中的聚合速度較慢,請(qǐng)先查看 Spark Stragglers/任務(wù)執(zhí)行緩慢部分。 主要癥狀 在執(zhí)行 groupby 操作時(shí),任務(wù)...
什么是RDD RDD(Resilient Distributed Datasets),彈性分布式數(shù)據(jù)集,是Spark的基本數(shù)據(jù)結(jié)構(gòu)。它是一個(gè)不可...
前言 在我們提交spark程序時(shí),應(yīng)該如何為Spark集群配置--num-executors, - executor-memory和--exe...
什么是Checkpointing Checkpointing可以將RDD從其依賴(lài)關(guān)系中抽出來(lái),保存到可靠的存儲(chǔ)系統(tǒng)(例如HDFS,S3等), 即...
前言 學(xué)習(xí)Spark源代碼的過(guò)程中遇到了Typed transformations和Untyped transformations兩個(gè)概念,整理...
Spark中的多任務(wù)處理 Spark的一個(gè)非常常見(jiàn)的用例是并行運(yùn)行許多作業(yè)。 構(gòu)建作業(yè)DAG后,Spark將這些任務(wù)分配到多個(gè)Executor上...