win10下Hadoop安裝

準(zhǔn)備工作

1、Hadoop官方下載地址:http://hadoop.apache.org/releases.html

image.png

選擇最新的3.0.0版本后跳轉(zhuǎn)至下面的頁面選擇紅色框部分鏈接即可下載,建議采用專業(yè)的下載工具下載,速度更快
image.png

2、將tar.gz包解壓至D盤根目錄:
image.png

Note:必須用管理員權(quán)限解壓
3、配置環(huán)境變量:
添加HADOOP_HOME配置:
image.png

在Path中添加如下:
image.png

4、Hadoop需要依賴JDK,考慮其路徑中不能有空格,故直接安裝如下目錄:

image.png

Hadoop配置

1、修改D:/hadoop-3.0.0/etc/hadoop/core-site.xml配置:

<configuration>
       <property>
           <name>fs.default.name</name>
           <value>hdfs://localhost:9000</value>
       </property>
 </configuration>

2、修改D:/hadoop-3.0.0/etc/hadoop/mapred-site.xml配置:

<configuration>
    <property>
       <name>mapreduce.framework.name</name>
       <value>yarn</value>
   </property>
</configuration>

3、在D:/hadoop-3.0.0目錄下創(chuàng)建data目錄,作為數(shù)據(jù)存儲路徑:


image.png

在D:/hadoop-3.0.0/data目錄下創(chuàng)建datanode目錄;
在D:/hadoop-3.0.0/data目錄下創(chuàng)建namenode目錄;

4、修改D:/hadoop-3.0.0/etc/hadoop/hdfs-site.xml配置:

<configuration>
    <property>
        <name>dfs.replication</name>
        <value>1</value>
    </property>
    <property> 
     <name>dfs.permissions</name> 
     <value>false</value> 
  </property>
   <property>
       <name>dfs.namenode.name.dir</name>
       <value>/D:/hadoop-3.0.0/data/namenode</value>
   </property>
   <property>
        <name>fs.checkpoint.dir</name>
        <value>/D:/hadoop-3.0.0/data/snn</value>
    </property>
    <property>
        <name>fs.checkpoint.edits.dir</name>
        <value>/D:/hadoop-3.0.0/data/snn</value>
    </property>
       <property>
       <name>dfs.datanode.data.dir</name>
       <value>/D:/hadoop-3.0.0/data/datanode</value>
   </property>
</configuration>

5、修改D:/hadoop-3.0.0/etc/hadoop/yarn-site.xml配置:

<configuration>
    <property>
        <name>yarn.nodemanager.aux-services</name>
        <value>mapreduce_shuffle</value>
   </property>
   <property>
        <name>yarn.nodemanager.auxservices.mapreduce.shuffle.class</name>  
        <value>org.apache.hadoop.mapred.ShuffleHandler</value>
   </property>
</configuration>

6、修改D:/hadoop-3.0.0/etc/hadoop/hadoop-env.cmd配置,找到"set JAVA_HOME=%JAVA_HOME%"替換為"set JAVA_HOME=D:\hadoop-3.0.0\jdk1.8.0_151"
7、bin目錄替換,至https://github.com/steveloughran/winutils下載解壓

image.png

找到對應(yīng)的版本后完整替換bin目錄即可
image.png

啟動服務(wù)

1、D:\hadoop-3.0.0\bin> hdfs namenode -format


image.png

2、通過start-all.cmd啟動服務(wù)


image.png

3、此時可以看到同時啟動了如下4個服務(wù):
Hadoop Namenode
Hadoop datanode
YARN Resourc Manager
YARN Node Manager


image.png

HDFS應(yīng)用

1、通過http://127.0.0.1:8088/即可查看集群所有節(jié)點狀態(tài):

image.png

2、訪問http://localhost:9870/即可查看文件管理頁面:
進(jìn)入文件管理頁面:

image.png

創(chuàng)建目錄:
image.png

上傳文件
image.png

上傳成功
image.png

Note:在之前的版本中文件管理的端口是50070,在3.0.0中替換為了9870端口,具體變更信息來源如下官方說明
http://hadoop.apache.org/docs/r3.0.0/hadoop-project-dist/hadoop-hdfs/HdfsUserGuide.html#Web_Interface
image.png

3、通過hadoop命令行進(jìn)行文件操作:
mkdir命令創(chuàng)建目錄:hadoop fs -mkdir hdfs://localhost:9000/user
image.png

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時請結(jié)合常識與多方信息審慎甄別。
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點,簡書系信息發(fā)布平臺,僅提供信息存儲服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

  • 一、系統(tǒng)參數(shù)配置優(yōu)化 1、系統(tǒng)內(nèi)核參數(shù)優(yōu)化配置 修改文件/etc/sysctl.conf,添加如下配置,然后執(zhí)行s...
    張偉科閱讀 3,925評論 0 14
  • (搭建集群部分借鑒了kiwenlau/hadoop-cluster-docker中的內(nèi)容,不過那里的基礎(chǔ)環(huán)境是Ub...
    ProteanBear閱讀 4,022評論 0 12
  • 當(dāng)一切無限真實,這個世界是如此的丑陋。好吧,這是一個讓人沮喪的事實,但在那無盡的丑陋之中,卻總有人性的光輝...
    須閑閱讀 193評論 0 0
  • conda install --channel https://conda.anaconda.org/menpo ...
    龍黎_閱讀 477評論 0 0
  • 真羨慕你吶,你真的把你的夢想堅持下來了。 前段時間里,有個許久未聯(lián)系的朋友,突然聯(lián)系我了。 說的話也就是朋友之間噓...
    葉小渝閱讀 305評論 0 4

友情鏈接更多精彩內(nèi)容