在Mac OSX Yosemite上安裝Hadoop

1. 安裝Homebrew和Cask


打開(kāi)Mac終端, 安裝OS X 不可或缺的套件管理器homebrewhomebrew cask

$ ruby -e "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/master/install)"

$ brew install caskroom/cask/brew-cask

2. 安裝Java


Hadoop是由Java編寫(xiě), 所以需要預(yù)先安裝Java 6或者更高的版本

$ brew update && brew upgrade brew-cask && brew cleanup && brew cask cleanup
$ brew cask install java

測(cè)試是否安裝成功

$ java -version

3. 配置SSH

為了確保在遠(yuǎn)程管理Hadoop以及Hadoop節(jié)點(diǎn)用戶共享時(shí)的安全性, Hadoop需要配置使用SSH協(xié)議

首先在系統(tǒng)偏好設(shè)置->共享->打開(kāi)遠(yuǎn)程登錄服務(wù)->右側(cè)選擇允許所有用戶訪問(wèn)

生成密鑰對(duì),執(zhí)行如下命令

$ ssh-keygen -t rsa

執(zhí)行這個(gè)命令后, 會(huì)在當(dāng)前用戶目錄中的.ssh文件夾中生成id_rsa文件, 執(zhí)行如下命令:

$ cat ~/.ssh/id_rsa.pub >> ~/.ssh/authorized_keys

使用下面命令測(cè)試是否能夠不使用密碼登錄

$ ssh localhost
# Last login: Thu Mar  5 17:30:07 2015

4. 安裝Hadoop


$ brew install hadoop

Hadoop會(huì)被安裝在/usr/local/Cellar/hadoop目錄下

4.1. 配置Hadoop

配置hadoop-env.sh

在目錄/usr/local/Cellar/hadoop/2.6.0/libexec/etc/hadoop下找到hadoop-env.sh文件

找到其中一行:

export HADOOP_OPTS="$HADOOP_OPTS -Djava.net.preferIPv4Stack=true"

修改為:

export HADOOP_OPTS="$HADOOP_OPTS -Djava.net.preferIPv4Stack=true -Djava.security.krb5.realm= -Djava.security.krb5.kdc="

在目錄/usr/local/Cellar/hadoop/2.6.0/libexec/etc/hadoop下找到core-site.xml

<configuration>
  <property>
    <name>hadoop.tmp.dir</name>
    <value>/usr/local/Cellar/hadoop/hdfs/tmp</value>
    <description>A base for other temporary directories.</description>
  </property>
  <property>
    <name>fs.default.name</name>
    <value>hdfs://localhost:9000</value>          
  </property>
</configuration> 

在目錄/usr/local/Cellar/hadoop/2.6.0/libexec/etc/hadoop下找到mapred-site.xml, 在其中添加:

<configuration>
  <property>
    <name>mapred.job.tracker</name>
    <value>localhost:9010</value>
  </property>
</configuration>

在目錄/usr/local/Cellar/hadoop/2.6.0/libexec/etc/hadoop下找到hdfs-site.xml

<configuration>
  <property>
    <name>dfs.replication</name>
    <value>1</value>
  </property>
</configuration> 

在運(yùn)行后臺(tái)程序前, 必須格式化新安裝的HDFS, 并通過(guò)創(chuàng)建存儲(chǔ)目錄和初始化元數(shù)據(jù)創(chuàng)新空的文件系統(tǒng), 執(zhí)行下面命令:

$ hadoop namenode -format

#生成類(lèi)似下面的字符串:
DEPRECATED: Use of this script to execute hdfs command is deprecated.
Instead use the hdfs command for it.

15/03/05 20:04:27 INFO namenode.NameNode: STARTUP_MSG:
/************************************************************
STARTUP_MSG: Starting NameNode
STARTUP_MSG:   host = Andrew-liudeMacBook-Pro.local/192.168.1.100
STARTUP_MSG:   args = [-format]
STARTUP_MSG:   version = 2.6.0
...

#此書(shū)省略大部分


STARTUP_MSG:   java = 1.6.0_65
************************************************************
/************************************************************
SHUTDOWN_MSG: Shutting down NameNode at Andrew-liudeMacBook-Pro.local/192.168.1.100
************************************************************/

4.2. 啟動(dòng)后臺(tái)程序

/usr/local/Cellar/hadoop/2.6.0/sbin目錄下, 執(zhí)行如下命令

$ ./start-dfs.sh  #啟動(dòng)HDFS
$ ./stop-dfs.sh  #停止HDFS

成功啟動(dòng)服務(wù)后, 可以直接在瀏覽器中輸入http://localhost:50070/訪問(wèn)Hadoop頁(yè)面

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時(shí)請(qǐng)結(jié)合常識(shí)與多方信息審慎甄別。
平臺(tái)聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡(jiǎn)書(shū)系信息發(fā)布平臺(tái),僅提供信息存儲(chǔ)服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

友情鏈接更多精彩內(nèi)容