appache版本hadoop重新編譯
1.1為什么要編譯hadoop
由于appache給出的hadoop的安裝包沒有提供c程序訪問的接口,所以我們在使用本地庫(本地庫可以用來做壓縮,以及支持c程序等等)的時候會出問題,需要對hadoop源碼進行編譯。
1.2編譯環(huán)境的準備
1.2.1:準備Linux環(huán)境
注意:一定要使用64位的操作系統(tǒng)
1.2.2:虛擬機聯(lián)網(wǎng),關(guān)閉防火墻,關(guān)閉selinux
關(guān)閉防火墻:
查看防火墻狀態(tài)
firewall-cmd --state
停止firewall
systemctl stop firewalld.service
禁止firewall開機啟動
systemctl disable firewalld.
關(guān)閉selinux
vim /etc/selinux/config
SELINUX=disabled
1.2.3: 安裝jdk1.7
注意 hadoop-2.7.5這個版本的編譯,只能使用jdk1.7,入伙使用1.8那么就會報錯
1.2.4:安裝maven
這里使用maven3.x以上的版本應(yīng)該都可以,不建議使用太高的版本,強烈建議使用3.0.5版本即可
maven下載路徑 TODO
配置maven的環(huán)境變量
vim /etc/profile
export MAVEN_HOME=/opt/software/apache-maven-3.0.5
export MAVEN_OPTS="-Xms4096m -Xmx4096m"
export PATH=:$MAVEN_HOME/bin:$PATH
讓修改立即生效
source /etc/profile
修改本地倉庫配置路徑
添加阿里云鏡像地址
1.2.5:安裝findbugs
下載findbugs-1.3.9.tar.gz
解壓配置環(huán)境變量
vim /etc/profile
export FINDBUGS_HOME=/opt/software/findbugs-1.5.9
export PATH=:$FINDBUGS_HOME/bin:$PATH
source /etc/profile
1.2.6:在線安裝依賴包
yum install autoconf automake libtool cmake
yum install ncurses-devel
yum install openssl-devel
yum install lzo-devel zlib-devel gcc gcc-c++
bzip2壓縮需要的依賴包
yum install -y bzip2-devel
1.2.7: 安裝protobuf
protobuf-2.5.0.tar.gz現(xiàn)在地址TODO
cd /opt/software
tar -zxvf protobuf-2.5.0.tar.gz
cd protobuf-2.5.0
./configure
make && make install
1.2.8: 安裝snappy
snappy-1.1.1.tar.gz下載地址 TODO
cd /opt/software
tar -zxvf?snappy-1.1.1.tar.gz
cd?snappy-1.1.1
./configure
make && make install?
1.2.9: 編譯hadoop源碼
hadoop-2.7.5-src.tar.gz下載地址 TODO
cd /opt/software
tar -zxvf hadoop-2.7.5-src.tar.gz
cd /hadoop-2.7.5
編譯支持snappy壓縮
mvn package -DskipTests -Pdist,native -Dtar -Drequire.snappy -e -X
編譯后的cd hadoop-dist/target