windows下安裝spark

1、安裝jdk

image.png

2、安裝scala

image.png

3、下載spark

spark下載地址

image.png

3.1安裝spark

  • 將下載的文件解壓到一個(gè)目錄,注意目錄不能有空格,比如說(shuō)不能解壓到C:\Program Files
  • 作者解壓到了這里,
    image.png
  • 將spark的bin路徑添加到path中
    image.png
  • cmd輸入spark-shell,成功安裝啦,有個(gè)報(bào)錯(cuò)是因?yàn)檫€沒(méi)安裝Hadoop,
    image.png

4、安裝hadoop

  • spark版本為spark-2.3.3-bin-hadoop2.7,我們選擇下2.8.5版本的Hadoop
    hadoop下載地址

    image.png

  • 解壓
    image.png
  • 添加環(huán)境變量,新建一個(gè)HADOOP_HOME
    image.png
  • 在path添加
    image.png
  • 到此運(yùn)行spark-shell還會(huì)有沒(méi)安裝的時(shí)候那個(gè)報(bào)錯(cuò),接下來(lái)需要替代Hadoop里的bin文件來(lái)解決這個(gè)錯(cuò)。

5、下載winutils

  • 下載地址
  • 筆者用的是hadoop2.8.5版本的,下載的winutils上hadoop2.8.3版本的bin,實(shí)測(cè)也是可行的。
    image.png
  • 接下來(lái)將bin替換原來(lái)Hadoop中的bin

6、運(yùn)行spark-shell成功啦

image.png
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時(shí)請(qǐng)結(jié)合常識(shí)與多方信息審慎甄別。
平臺(tái)聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡(jiǎn)書(shū)系信息發(fā)布平臺(tái),僅提供信息存儲(chǔ)服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

  • 首先需要安裝Java 下載安裝并配置Spark 從官方網(wǎng)站Download Apache Spark?下載相應(yīng)版本...
    LJasperliet閱讀 9,694評(píng)論 0 2
  • 1.常見(jiàn)調(diào)優(yōu)方法: spark作業(yè)經(jīng)常會(huì)出現(xiàn)跑得很慢或者卡死的情況,需要考慮調(diào)優(yōu)。 1.1 任務(wù)提交參數(shù)調(diào)整 最簡(jiǎn)...
    wong11閱讀 8,165評(píng)論 1 3
  • Scala語(yǔ)法 至于scala語(yǔ)法而言,大致上和Java的語(yǔ)法類(lèi)似,增加了一些函數(shù)式編程,具體語(yǔ)法可以參考Scal...
    卡卡xx閱讀 3,145評(píng)論 0 1
  • 由于Spark是用Scala來(lái)寫(xiě)的,所以Spark對(duì)Scala肯定是原生態(tài)支持的,因此這里以Scala為主來(lái)介紹S...
    weizier閱讀 19,476評(píng)論 10 26
  • 2017.05.13 姓名:代利云 公司:寧波慈星股份有限公司 寧波盛和塾《六項(xiàng)精進(jìn)》235期學(xué)員。 【日精進(jìn)打卡...
    代利云閱讀 141評(píng)論 0 0

友情鏈接更多精彩內(nèi)容