Hadoop的準備工作:Hadoop的介紹與概述

1什么是Hadoop:

Hadoop最早起源于Nutch。Nutch的設(shè)計目標是構(gòu)建一個大型的全網(wǎng)搜索引擎,包括網(wǎng)頁抓取、索引、查詢等功能,但隨著抓取網(wǎng)頁數(shù)量的增加,遇到了嚴重的可擴展性問題——如何解決數(shù)十億網(wǎng)頁的存儲和索引問題。

2003年、2004年谷歌發(fā)表的兩篇論文為該問題提供了可行的解決方案。

——分布式文件系統(tǒng)(GFS),可用于處理海量網(wǎng)頁的存儲

——分布式計算框架MAPREDUCE,可用于處理海量網(wǎng)頁的索引計算問題。

Nutch的開發(fā)人員完成了相應(yīng)的開源實現(xiàn)HDFS和MAPREDUCE,并從Nutch中剝離成為獨立項目HADOOP,到2008年1月,HADOOP成為Apache頂級項目.

狹義上來說,hadoop就是單獨指代hadoop這個軟件,

HDFS :分布式文件系統(tǒng)

MapReduce : 分布式計算系統(tǒng)

Yarn:分布式樣集群資源管理

廣義上來說,hadoop指代大數(shù)據(jù)的一個生態(tài)圈,包括很多其他的軟件

2、hadoop的歷史版本和發(fā)行版公司

2.1 Hadoop歷史版本

1.x版本系列:hadoop版本當中的第二代開源版本,主要修復(fù)0.x版本的一些bug等

2.x版本系列:架構(gòu)產(chǎn)生重大變化,引入了yarn平臺等許多新特性

3.x版本系列: 加入多namenoode新特性

2.2 Hadoop三大發(fā)行版公司

免費開源版本apache:

Apache Hadoop

優(yōu)點:擁有全世界的開源貢獻者,代碼更新迭代版本比較快,

缺點:版本的升級,版本的維護,版本的兼容性,版本的補丁都可能考慮不太周到,

apache所有軟件的下載地址(包括各種歷史版本):

Index of /dist

免費開源版本hortonWorks:

hortonworks主要是雅虎主導(dǎo)Hadoop開發(fā)的副總裁,帶領(lǐng)二十幾個核心成員成立Hortonworks,核心產(chǎn)品軟件HDP(ambari),HDF免費開源,并且提供一整套的web管理界面,供我們可以通過web界面管理我們的集群狀態(tài),web管理界面軟件HDF網(wǎng)址

3、hadoop的架構(gòu)模型

1.x的版本架構(gòu)模型介紹

文件系統(tǒng)核心模塊:

NameNode:集群當中的主節(jié)點,管理元數(shù)據(jù)(文件的大小,文件的位置,文件的權(quán)限),主要用于管理集群當中的各種數(shù)據(jù)

secondaryNameNode:主要能用于hadoop當中元數(shù)據(jù)信息的輔助管理

DataNode:集群當中的從節(jié)點,主要用于存儲集群當中的各種數(shù)據(jù)

數(shù)據(jù)計算核心模塊:

JobTracker:接收用戶的計算請求任務(wù),并分配任務(wù)給從節(jié)點

TaskTracker:負責執(zhí)行主節(jié)點JobTracker分配的任務(wù)

2.x的版本架構(gòu)模型介紹

第一種:NameNode與ResourceManager單節(jié)點架構(gòu)模型

文件系統(tǒng)核心模塊:

NameNode:集群當中的主節(jié)點,主要用于管理集群當中的各種數(shù)據(jù)

secondaryNameNode:主要能用于hadoop當中元數(shù)據(jù)信息的輔助管理

DataNode:集群當中的從節(jié)點,主要用于存儲集群當中的各種數(shù)據(jù)

數(shù)據(jù)計算核心模塊:

ResourceManager:接收用戶的計算請求任務(wù),并負責集群的資源分配

NodeManager:負責執(zhí)行主節(jié)點APPmaster分配的任務(wù)

第二種:NameNode單節(jié)點與ResourceManager高可用架構(gòu)模型

文件系統(tǒng)核心模塊:

NameNode:集群當中的主節(jié)點,主要用于管理集群當中的各種數(shù)據(jù)

secondaryNameNode:主要能用于hadoop當中元數(shù)據(jù)信息的輔助管理

DataNode:集群當中的從節(jié)點,主要用于存儲集群當中的各種數(shù)據(jù)

數(shù)據(jù)計算核心模塊:

ResourceManager:接收用戶的計算請求任務(wù),并負責集群的資源分配,以及計算任務(wù)的劃分,通過zookeeper實現(xiàn)ResourceManager的高可用

NodeManager:負責執(zhí)行主節(jié)點ResourceManager分配的任務(wù)

第三種:NameNode高可用與ResourceManager單節(jié)點架構(gòu)模型

文件系統(tǒng)核心模塊:

NameNode:集群當中的主節(jié)點,主要用于管理集群當中的各種數(shù)據(jù),其中nameNode可以有兩個,形成高可用狀態(tài)

DataNode:集群當中的從節(jié)點,主要用于存儲集群當中的各種數(shù)據(jù)

JournalNode:文件系統(tǒng)元數(shù)據(jù)信息管理

數(shù)

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時請結(jié)合常識與多方信息審慎甄別。
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點,簡書系信息發(fā)布平臺,僅提供信息存儲服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

友情鏈接更多精彩內(nèi)容