CentOS7安裝Hadoop2.7完整流程

總體思路,準(zhǔn)備主從服務(wù)器,配置主服務(wù)器可以無密碼SSH登錄從服務(wù)器,解壓安裝JDK,解壓安裝Hadoop,配置hdfs、mapreduce等主從關(guān)系。

1、環(huán)境,3臺CentOS7,64位,Hadoop2.7需要64位Linux,CentOS7 Minimal的ISO文件只有600M,操作系統(tǒng)十幾分鐘就可以安裝完成,

Master 192.168.1.12

Slave1 192.168.1.13

Slave2 192.168.1.14

2、SSH免密碼登錄,因?yàn)镠adoop需要通過SSH登錄到各個節(jié)點(diǎn)進(jìn)行操作,我用的是root用戶,每臺服務(wù)器都生成公鑰,再合并到authorized_keys

(1)CentOS默認(rèn)沒有啟動ssh無密登錄,去掉/etc/ssh/sshd_config其中2行的注釋,每臺服務(wù)器都要設(shè)置,

#RSAAuthentication yes

#PubkeyAuthentication yes

(2)輸入命令,ssh-keygen -t rsa,生成key,都不輸入密碼,一直回車,/root就會生成.ssh文件夾,每臺服務(wù)器都要設(shè)置,

(3)合并公鑰到authorized_keys文件,在Master服務(wù)器,進(jìn)入/root/.ssh目錄,通過SSH命令合并,

cat id_rsa.pub>> authorized_keys

ssh root@192.168.1.13 cat ~/.ssh/id_rsa.pub>> authorized_keys

ssh root@192.168.1.14 cat ~/.ssh/id_rsa.pub>> authorized_keys

(4)把Master服務(wù)器的authorized_keys、known_hosts復(fù)制到Slave服務(wù)器的/root/.ssh目錄

(5)完成,ssh root@192.168.1.13、ssh root@192.168.1.14就不需要輸入密碼了

3、安裝JDK,Hadoop2.7需要JDK7,由于我的CentOS是最小化安裝,所以沒有OpenJDK,直接解壓下載的JDK并配置變量即可

(1)下載“jdk-7u79-linux-x64.gz”,放到/home/java目錄下

(2)解壓,輸入命令,tar -zxvf jdk-7u79-linux-x64.gz

(3)編輯/etc/profile

export JAVA_HOME=/home/java/jdk1.7.0_79

export CLASSPATH=.:$JAVA_HOME/jre/lib/rt.jar:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar

export PATH=$PATH:$JAVA_HOME/bin

(4)使配置生效,輸入命令,source /etc/profile

(5)輸入命令,java -version,完成

4、安裝Hadoop2.7,只在Master服務(wù)器解壓,再復(fù)制到Slave服務(wù)器

(1)下載“hadoop-2.7.0.tar.gz”,放到/home/hadoop目錄下

(2)解壓,輸入命令,tar -xzvf hadoop-2.7.0.tar.gz

(3)在/home/hadoop目錄下創(chuàng)建數(shù)據(jù)存放的文件夾,tmp、hdfs、hdfs/data、hdfs/name

5、配置/home/hadoop/hadoop-2.7.0/etc/hadoop目錄下的core-site.xml

[hadoop@node14 conf]$ cat core-site.xml

<configuration>

<propertity>

? ? <name>fs.defaultFS<name>

? ? <value>hdfs://192.168.1.12:9000</value>

</propertity>

<popertity>

? ? <name>hadoop.tmp.dir</name>

? ? <value>file:/home/hadoop/tmp</value>

</propertity>

<propertity>

? ? <name>io.file.buffer.size</name>

? ? <value>131702</value>

</propertity>

</configuration>

6、配置/home/hadoop/hadoop-2.7.0/etc/hadoop目錄下的hdfs-site.xml

dfs.namenode.name.dir

file:/home/hadoop/dfs/name

dfs.datanode.data.dir

file:/home/hadoop/dfs/data

dfs.replication

2

dfs.namenode.secondary.http-address

192.168.1.12:9001

dfs.webhdfs.enabled

true

7、配置/home/hadoop/hadoop-2.7.0/etc/hadoop目錄下的mapred-site.xml

mapreduce.framework.name

yarn

mapreduce.jobhistory.address

192.168.1.12:10020

mapreduce.jobhistory.webapp.address

192.168.1.12:19888

8、配置/home/hadoop/hadoop-2.7.0/etc/hadoop目錄下的mapred-site.xml

yarn.nodemanager.aux-services

mapreduce_shuffle

yarn.nodemanager.auxservices.mapreduce.shuffle.class

org.apache.hadoop.mapred.ShuffleHandler

yarn.resourcemanager.address

192.168.1.12:8032

yarn.resourcemanager.scheduler.address

192.168.1.12:8030

yarn.resourcemanager.resource-tracker.address

192.168.1.12:8031

yarn.resourcemanager.admin.address

192.168.1.12:8033

yarn.resourcemanager.webapp.address

192.168.1.12:8088

yarn.nodemanager.resource.memory-mb

768

9、配置/home/hadoop/hadoop-2.7.0/etc/hadoop目錄下hadoop-env.sh、yarn-env.sh的JAVA_HOME,不設(shè)置的話,啟動不了,

export JAVA_HOME=/home/java/jdk1.7.0_79

10、配置/home/hadoop/hadoop-2.7.0/etc/hadoop目錄下的slaves,刪除默認(rèn)的localhost,增加2個從節(jié)點(diǎn),

192.168.1.13

192.168.1.14

11、將配置好的Hadoop復(fù)制到各個節(jié)點(diǎn)對應(yīng)位置上,通過scp傳送,

scp -r /home/hadoop 192.168.1.13:/home/

scp -r /home/hadoop 192.168.1.14:/home/

12、在Master服務(wù)器啟動hadoop,從節(jié)點(diǎn)會自動啟動,進(jìn)入/home/hadoop/hadoop-2.7.0目錄

(1)初始化,輸入命令,bin/hdfs namenode -format

(2)全部啟動sbin/start-all.sh,也可以分開sbin/start-dfs.sh、sbin/start-yarn.sh

(3)停止的話,輸入命令,sbin/stop-all.sh

(4)輸入命令,jps,可以看到相關(guān)信息

13、Web訪問,要先開放端口或者直接關(guān)閉防火墻

(1)輸入命令,systemctl stop firewalld.service

(2)瀏覽器打開http://192.168.1.12:8088/

(3)瀏覽器打開http://192.168.1.12:50070/

14、安裝完成。這只是大數(shù)據(jù)應(yīng)用的開始,之后的工作就是,結(jié)合自己的情況,編寫程序調(diào)用Hadoop的接口,發(fā)揮hdfs、mapreduce的作用。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時(shí)請結(jié)合常識與多方信息審慎甄別。
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡書系信息發(fā)布平臺,僅提供信息存儲服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

  • 1 目的將hadoop 2.7.1 安裝到 166、167、168 三臺機(jī)器上2 提供環(huán)境練習(xí)環(huán)境192.168....
    灼灼2015閱讀 3,635評論 4 40
  • 之前的有點(diǎn)忘記了,這里在云筆記拿出來再玩玩.看不懂的可以留言 大家可以嘗試下Ambari來配置Hadoop的相關(guān)環(huán)...
    HT_Jonson閱讀 3,198評論 0 50
  • 簡述 hadoop 集群一共有4種部署模式,詳見《hadoop 生態(tài)圈介紹》。HA聯(lián)邦模式解決了單純HA模式的性能...
    mtide閱讀 13,485評論 8 20
  • 簡述 hadoop 集群一共有4種部署模式,詳見《hadoop 生態(tài)圈介紹》。HA模式的集群里面會部署兩臺NN(最...
    mtide閱讀 7,539評論 0 10
  • 再過幾天奶奶都85歲生日了,昨夜躺在床上,想起兒時(shí)與奶奶在一起的一幕幕,如今奶奶已是風(fēng)燭殘年,忍不住流淚了! ...
    tanglijun閱讀 459評論 2 0

友情鏈接更多精彩內(nèi)容