總體思路,準(zhǔn)備主從服務(wù)器,配置主服務(wù)器可以無密碼SSH登錄從服務(wù)器,解壓安裝JDK,解壓安裝Hadoop,配置hdfs、mapreduce等主從關(guān)系。
1、環(huán)境,3臺CentOS7,64位,Hadoop2.7需要64位Linux,CentOS7 Minimal的ISO文件只有600M,操作系統(tǒng)十幾分鐘就可以安裝完成,
Master 192.168.1.12
Slave1 192.168.1.13
Slave2 192.168.1.14
2、SSH免密碼登錄,因?yàn)镠adoop需要通過SSH登錄到各個節(jié)點(diǎn)進(jìn)行操作,我用的是root用戶,每臺服務(wù)器都生成公鑰,再合并到authorized_keys
(1)CentOS默認(rèn)沒有啟動ssh無密登錄,去掉/etc/ssh/sshd_config其中2行的注釋,每臺服務(wù)器都要設(shè)置,
#RSAAuthentication yes
#PubkeyAuthentication yes
(2)輸入命令,ssh-keygen -t rsa,生成key,都不輸入密碼,一直回車,/root就會生成.ssh文件夾,每臺服務(wù)器都要設(shè)置,
(3)合并公鑰到authorized_keys文件,在Master服務(wù)器,進(jìn)入/root/.ssh目錄,通過SSH命令合并,
cat id_rsa.pub>> authorized_keys
ssh root@192.168.1.13 cat ~/.ssh/id_rsa.pub>> authorized_keys
ssh root@192.168.1.14 cat ~/.ssh/id_rsa.pub>> authorized_keys
(4)把Master服務(wù)器的authorized_keys、known_hosts復(fù)制到Slave服務(wù)器的/root/.ssh目錄
(5)完成,ssh root@192.168.1.13、ssh root@192.168.1.14就不需要輸入密碼了
3、安裝JDK,Hadoop2.7需要JDK7,由于我的CentOS是最小化安裝,所以沒有OpenJDK,直接解壓下載的JDK并配置變量即可
(1)下載“jdk-7u79-linux-x64.gz”,放到/home/java目錄下
(2)解壓,輸入命令,tar -zxvf jdk-7u79-linux-x64.gz
(3)編輯/etc/profile
export JAVA_HOME=/home/java/jdk1.7.0_79
export CLASSPATH=.:$JAVA_HOME/jre/lib/rt.jar:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar
export PATH=$PATH:$JAVA_HOME/bin
(4)使配置生效,輸入命令,source /etc/profile
(5)輸入命令,java -version,完成
4、安裝Hadoop2.7,只在Master服務(wù)器解壓,再復(fù)制到Slave服務(wù)器
(1)下載“hadoop-2.7.0.tar.gz”,放到/home/hadoop目錄下
(2)解壓,輸入命令,tar -xzvf hadoop-2.7.0.tar.gz
(3)在/home/hadoop目錄下創(chuàng)建數(shù)據(jù)存放的文件夾,tmp、hdfs、hdfs/data、hdfs/name
5、配置/home/hadoop/hadoop-2.7.0/etc/hadoop目錄下的core-site.xml
[hadoop@node14 conf]$ cat core-site.xml
<configuration>
<propertity>
? ? <name>fs.defaultFS<name>
? ? <value>hdfs://192.168.1.12:9000</value>
</propertity>
<popertity>
? ? <name>hadoop.tmp.dir</name>
? ? <value>file:/home/hadoop/tmp</value>
</propertity>
<propertity>
? ? <name>io.file.buffer.size</name>
? ? <value>131702</value>
</propertity>
</configuration>
6、配置/home/hadoop/hadoop-2.7.0/etc/hadoop目錄下的hdfs-site.xml
dfs.namenode.name.dir
file:/home/hadoop/dfs/name
dfs.datanode.data.dir
file:/home/hadoop/dfs/data
dfs.replication
2
dfs.namenode.secondary.http-address
192.168.1.12:9001
dfs.webhdfs.enabled
true
7、配置/home/hadoop/hadoop-2.7.0/etc/hadoop目錄下的mapred-site.xml
mapreduce.framework.name
yarn
mapreduce.jobhistory.address
192.168.1.12:10020
mapreduce.jobhistory.webapp.address
192.168.1.12:19888
8、配置/home/hadoop/hadoop-2.7.0/etc/hadoop目錄下的mapred-site.xml
yarn.nodemanager.aux-services
mapreduce_shuffle
yarn.nodemanager.auxservices.mapreduce.shuffle.class
org.apache.hadoop.mapred.ShuffleHandler
yarn.resourcemanager.address
192.168.1.12:8032
yarn.resourcemanager.scheduler.address
192.168.1.12:8030
yarn.resourcemanager.resource-tracker.address
192.168.1.12:8031
yarn.resourcemanager.admin.address
192.168.1.12:8033
yarn.resourcemanager.webapp.address
192.168.1.12:8088
yarn.nodemanager.resource.memory-mb
768
9、配置/home/hadoop/hadoop-2.7.0/etc/hadoop目錄下hadoop-env.sh、yarn-env.sh的JAVA_HOME,不設(shè)置的話,啟動不了,
export JAVA_HOME=/home/java/jdk1.7.0_79
10、配置/home/hadoop/hadoop-2.7.0/etc/hadoop目錄下的slaves,刪除默認(rèn)的localhost,增加2個從節(jié)點(diǎn),
192.168.1.13
192.168.1.14
11、將配置好的Hadoop復(fù)制到各個節(jié)點(diǎn)對應(yīng)位置上,通過scp傳送,
scp -r /home/hadoop 192.168.1.13:/home/
scp -r /home/hadoop 192.168.1.14:/home/
12、在Master服務(wù)器啟動hadoop,從節(jié)點(diǎn)會自動啟動,進(jìn)入/home/hadoop/hadoop-2.7.0目錄
(1)初始化,輸入命令,bin/hdfs namenode -format
(2)全部啟動sbin/start-all.sh,也可以分開sbin/start-dfs.sh、sbin/start-yarn.sh
(3)停止的話,輸入命令,sbin/stop-all.sh
(4)輸入命令,jps,可以看到相關(guān)信息
13、Web訪問,要先開放端口或者直接關(guān)閉防火墻
(1)輸入命令,systemctl stop firewalld.service
(2)瀏覽器打開http://192.168.1.12:8088/
(3)瀏覽器打開http://192.168.1.12:50070/
14、安裝完成。這只是大數(shù)據(jù)應(yīng)用的開始,之后的工作就是,結(jié)合自己的情況,編寫程序調(diào)用Hadoop的接口,發(fā)揮hdfs、mapreduce的作用。