spark初試牛刀(python)

一.需要環(huán)境

1.python
2.pyspark
3.spark

二.代碼

from pyspark import SparkConf, SparkContext
conf = SparkConf().setMaster("local[*]").setAppName("First_App")  #配置環(huán)境
sc = SparkContext(conf=conf) #加載環(huán)境
textFile = sc.textFile('example.txt') #讀取文件
count = textFile.countByValue()  #統(tǒng)計(jì)單詞頻數(shù)
print(count)
最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時(shí)請(qǐng)結(jié)合常識(shí)與多方信息審慎甄別。
平臺(tái)聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡(jiǎn)書(shū)系信息發(fā)布平臺(tái),僅提供信息存儲(chǔ)服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

  • pyspark.sql module Module context Spark SQL和DataFrames中的重...
    盜夢(mèng)者_(dá)56f2閱讀 5,675評(píng)論 0 19
  • 本節(jié)內(nèi)容 Python介紹 發(fā)展史 Python 2 or 3? 安裝 Hello World程序 變量 用戶輸入...
    小小不懂11閱讀 3,542評(píng)論 2 30
  • 原文: https://wiki.python.org/moin/Python2orPython3 在項(xiàng)目開(kāi)發(fā)中,...
    林灣村龍貓閱讀 4,142評(píng)論 0 6
  • 當(dāng)我心情好的時(shí)候,聽(tīng)的歌都好聽(tīng),有的很好聽(tīng),有一些不是特別好聽(tīng)。 可是心情不好時(shí),卻變成了好聽(tīng)與不好聽(tīng)。 ?(???)
    木頭4_閱讀 413評(píng)論 0 0
  • -01- 上周末參加了趙先生一位同事的婚禮,有一些感觸。 宴客廳很大,有二十來(lái)桌。儀式背景墻是淡藍(lán)色的窗戶圖案,還...
    丁香與海閱讀 338評(píng)論 0 3

友情鏈接更多精彩內(nèi)容