分布式Alluxio配置部署

alluxio 分布式


配置分布式Alluxio:

10.87.219.7 #master 
10.87.219.8 #worker1
10.87.219.9 #worker2

1.下載Alluxio發(fā)布版本并解壓到各個(gè)節(jié)點(diǎn)
2.進(jìn)入各個(gè)節(jié)點(diǎn)的解壓后的文件夾,該文件夾中包含所有的Alluxio源文件和Java二進(jìn)制文件

cd alluxio-1.8.0

3.配置
1)在conf目錄下,根據(jù)模板文件創(chuàng)建alluxio-site.properties配置文件:

cp alluxio-site.properties.template  alluxio-site.properties

2)進(jìn)入master機(jī)器alluxio-site.properties文件中進(jìn)行設(shè)置:

# Common properties
# alluxio.master.hostname=localhost
alluxio.master.hostname=10.87.219.7#master address
# alluxio.underfs.address=${alluxio.work.dir}/underFSStorage
alluxio.underfs.address=hdfs://10.87.49.221:8020/
alluxio.underfs.hdfs.configuration=/usr/local/hadoop-2.7.4/etc/hadoop/core-site.xml:/usr/local/hadoop-2.7.4/etc/hadoop/hdfs-site.xml

# Security properties
# alluxio.security.authorization.permission.enabled=true
# alluxio.security.authentication.type=SIMPLE

# Worker properties
alluxio.worker.memory.size=5GB
# alluxio.worker.tieredstore.levels=1
# alluxio.worker.tieredstore.level0.alias=MEM
# alluxio.worker.tieredstore.level0.dirs.path=/mnt/ramdisk

3)配置workers文件:
進(jìn)入conf/workers文件中,將2個(gè)worker的IP地址寫入文件。
4)使用命令同步配置文件到2個(gè)worker節(jié)點(diǎn)中:

alluxio copyDir /data0/alluxio-1.8.0/conf/alluxio-site.properties

4.驗(yàn)證Alluxio運(yùn)行環(huán)境

1). 環(huán)境變量
將Alluxio命令加入環(huán)境變量中,在/etc/profile末尾添加Alluxio的路徑信息:

export PATH="/data0/alluxio-1.8.0/bin:$PATH"

輸入source /etc/profile使其生效
2). 驗(yàn)證本地運(yùn)行環(huán)境
輸入命令驗(yàn)證運(yùn)行環(huán)境:

./alluxio-1.8.0/bin/alluxio validateEnv local
  1. 格式化Alluxio
    輸入以下命令格式化Alluxio,為啟動(dòng)Alluxio做準(zhǔn)備:
./bin/alluxio format

6.啟動(dòng)Alluxio

./bin/alluxio-start.sh all Mount

7.在http://10.87.219.7:19999/home中查看web UI:

image.png

  1. 最后stop alluxio
alluxio-stop.sh all

運(yùn)行alluxio命令時(shí),需要輸入master機(jī)器密碼好幾次...

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時(shí)請(qǐng)結(jié)合常識(shí)與多方信息審慎甄別。
平臺(tái)聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡(jiǎn)書系信息發(fā)布平臺(tái),僅提供信息存儲(chǔ)服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

友情鏈接更多精彩內(nèi)容