搭建分布式Hadoop

1. 安裝虛擬機(jī)

virtualbox和centos6.9
Centos6.9_x64百度網(wǎng)盤地址:https://pan.baidu.com/s/11RDISh4yB36lVcX_RROSdw
Mac版本的VirtualBox百度網(wǎng)盤下載:https://pan.baidu.com/s/1MaGt8HHP-QSxnkYaDCnQzg
JDK1.7_x64百度網(wǎng)盤下載:https://pan.baidu.com/s/1synxei5fFqsc29BV4RWHjg
Hadoop2.5.2百度網(wǎng)盤下載:https://pan.baidu.com/s/1pNX4hJge8m1DnXm1NOZ8xw

1、網(wǎng)卡配置設(shè)置成橋接網(wǎng)卡;

關(guān)閉防火墻service iptables stop
永久關(guān)閉防火墻關(guān)機(jī)重啟:chkconfig iptables off
關(guān)閉SELinux, 將SELINUX設(shè)置為disabled

vim /etc/selinux/config

2、Onboot

/etc/sysconfig/network-scripts/ifcfg-eth0文件中的onboot設(shè)置為yes

3、配置hosts

192.168.3.170 node1
192.168.3.169 node2
192.168.3.168 node3
192.168.3.167 node4

復(fù)制虛擬機(jī)后操作

1、修改hostname/etc/sysconfig/network/etc/hosts

2、修改MAC地址/etc/sysconfig/network-scripts/ifcfg-eth0

3、刪除/etc/udev/rules.d/70-persistent-net.rules,然后重啟reboot

分配四臺虛擬機(jī)

虛擬機(jī)名稱 NameNode SecondaryNameNode DataNode
node1 True
node2 True True
node3 True
node4 True

其中分配node1為NameNode;node2為SecondaryNameNode和DataNode;node3和node4為DataNode。

2、 時(shí)間同步

時(shí)間可以從網(wǎng)上搜索ntp服務(wù)器(http://www.ntp.org.cn/pool.php)

$ yum install ntp -y
$ ntpdate -u [URL]

3、 安裝jdk1.7

 rpm -ivh jdk-7u67-linux-x64.rpm

在/etc/profile/配置JAVA_HOME

export JAVA_HOME=/usr/lib/jvm/jre-1.7.0-openjdk/
export PATH=$PATH:$JAVA_HOME/bin

4、配置免秘鑰

node1 到node1-node4

# node1上生成id_dsa.pub公鑰文件
ssh-keygen
# node1自身免秘鑰
ssh-copy-id root@node1
# 發(fā)送到node2-node4
ssh-copy-id root@node2
ssh-copy-id root@node3
ssh-copy-id root@node4

5、 node1上傳解壓Hadoop

# 解壓hadoop至home
tar -zxvf hadoop-2.5.2.tar.gz -c /home
# 在/etc/profile中配置
export HADOOP_HOME=/home/hadoop-2.5.2
export PATH=$PATH:$HADOOP_HOME/bin

6、 修改配置文件

6.1 hadoop-env.sh中的JAVA_HOME

? export JAVA_HOME=/usr/java/jdk1.7.0_67

6.2 core-site.xml

 <configuration>
            <property>
                <name>fs.defaultFS</name>
                <value>hdfs://node1:9000</value> <!-- 配置NN的ip和端口 -->
            </property>
            <property>
                <name>hadoop.tmp.dir</name>
                <value>/opt/hadoop</value> <!-- 配置hadoop的臨時(shí)目錄 -->
            </property>
        </configuration>

6.3 hdfs-site.xml

<configuration>
            <property>
                <name>dfs.replication</name>
                <value>3</value> <!-- 配置block默認(rèn)副本數(shù) -->
            </property>
            <property>
                <name>dfs.namenode.secondary.http-address</name>
                <value>node2:50090</value><!-- 配置SNN的web-UI端口 -->
            </property>
        </configuration>

6.4 手動創(chuàng)建masters文件,指定SNN

位于$HADOOP_HOME/etc/hadoop/

node2

6.5 手動創(chuàng)建slaves文件,指定DN

位于$HADOOP_HOME/etc/hadoop/

node2
node3
node4

7、 同步配置文件

刪除share/doc可以減少文件占用

從node1中scp至node2-4

8、格式化NN

$ hdfs namenode -format

9、啟動start-dfs.sh

$ start-dfs.sh

10、測試是否成功

訪問web-ui:http://node1:50070

訪問SNN-web-ui:http://node2:50090

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時(shí)請結(jié)合常識與多方信息審慎甄別。
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡書系信息發(fā)布平臺,僅提供信息存儲服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

  • 0x00 準(zhǔn)備工作 hadoop-2.6.0.tar.gz以及zookeeper-3.4.8.tar.gz Ap...
    明月的味道閱讀 964評論 0 1
  • 環(huán)境準(zhǔn)備 節(jié)點(diǎn)四個(gè):192.168.199.5(node1);192.168.199.6(node2);192.1...
    狂奔的蝸牛QAQ閱讀 1,127評論 0 1
  • 1.準(zhǔn)備環(huán)境 1臺namenode 3臺datenode 靜態(tài)IP地址分別為,(若是虛擬機(jī),注意mac地址要不同)...
    markDownMan閱讀 356評論 1 1
  • 安裝目的 主要快速搭建大數(shù)據(jù)平臺,方便部門內(nèi)學(xué)習(xí)。上級要求直接使用CDH加快部署和方便開發(fā)環(huán)境的運(yùn)維,所以由此教程...
    Wille_Li閱讀 1,271評論 0 2
  • 今天,去了老人家那里。老人家有些咳嗽。再加上本是秋天,不知道說到哪里,只聽到:現(xiàn)在也不出去坐著了,沒人作伴了。年輕...
    旱陽閱讀 238評論 1 0

友情鏈接更多精彩內(nèi)容