appache版本hadoop重新編譯

appache版本hadoop重新編譯

1.1為什么要編譯hadoop

由于appache給出的hadoop的安裝包沒有提供c程序訪問的接口,所以我們在使用本地庫(本地庫可以用來做壓縮,以及支持c程序等等)的時候會出問題,需要對hadoop源碼進行編譯。

1.2編譯環(huán)境的準備

1.2.1:準備Linux環(huán)境

注意:一定要使用64位的操作系統(tǒng)

1.2.2:虛擬機聯(lián)網(wǎng),關(guān)閉防火墻,關(guān)閉selinux

關(guān)閉防火墻:

查看防火墻狀態(tài)

firewall-cmd --state

停止firewall

systemctl stop firewalld.service

禁止firewall開機啟動

systemctl disable firewalld.

關(guān)閉selinux

vim /etc/selinux/config

SELINUX=disabled

1.2.3: 安裝jdk1.7

注意 hadoop-2.7.5這個版本的編譯,只能使用jdk1.7,入伙使用1.8那么就會報錯

jdk安裝方法參照

1.2.4:安裝maven

這里使用maven3.x以上的版本應(yīng)該都可以,不建議使用太高的版本,強烈建議使用3.0.5版本即可

maven下載路徑 TODO

配置maven的環(huán)境變量

vim /etc/profile

export MAVEN_HOME=/opt/software/apache-maven-3.0.5

export MAVEN_OPTS="-Xms4096m -Xmx4096m"

export PATH=:$MAVEN_HOME/bin:$PATH

讓修改立即生效

source /etc/profile

修改本地倉庫配置路徑

添加阿里云鏡像地址

1.2.5:安裝findbugs

下載findbugs-1.3.9.tar.gz

解壓配置環(huán)境變量

vim /etc/profile

export FINDBUGS_HOME=/opt/software/findbugs-1.5.9

export PATH=:$FINDBUGS_HOME/bin:$PATH

source /etc/profile

1.2.6:在線安裝依賴包

yum install autoconf automake libtool cmake

yum install ncurses-devel

yum install openssl-devel

yum install lzo-devel zlib-devel gcc gcc-c++

bzip2壓縮需要的依賴包

yum install -y bzip2-devel

1.2.7: 安裝protobuf

protobuf-2.5.0.tar.gz現(xiàn)在地址TODO

cd /opt/software

tar -zxvf protobuf-2.5.0.tar.gz

cd protobuf-2.5.0

./configure

make && make install

1.2.8: 安裝snappy

snappy-1.1.1.tar.gz下載地址 TODO

cd /opt/software

tar -zxvf?snappy-1.1.1.tar.gz

cd?snappy-1.1.1

./configure

make && make install?

1.2.9: 編譯hadoop源碼

hadoop-2.7.5-src.tar.gz下載地址 TODO

cd /opt/software

tar -zxvf hadoop-2.7.5-src.tar.gz

cd /hadoop-2.7.5

編譯支持snappy壓縮

mvn package -DskipTests -Pdist,native -Dtar -Drequire.snappy -e -X

編譯后的cd hadoop-dist/target

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時請結(jié)合常識與多方信息審慎甄別。
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點,簡書系信息發(fā)布平臺,僅提供信息存儲服務(wù)。

友情鏈接更多精彩內(nèi)容