1什么是Hadoop:
Hadoop最早起源于Nutch。Nutch的設(shè)計目標是構(gòu)建一個大型的全網(wǎng)搜索引擎,包括網(wǎng)頁抓取、索引、查詢等功能,但隨著抓取網(wǎng)頁數(shù)量的增加,遇到了嚴重的可擴展性問題——如何解決數(shù)十億網(wǎng)頁的存儲和索引問題。
2003年、2004年谷歌發(fā)表的兩篇論文為該問題提供了可行的解決方案。
——分布式文件系統(tǒng)(GFS),可用于處理海量網(wǎng)頁的存儲
——分布式計算框架MAPREDUCE,可用于處理海量網(wǎng)頁的索引計算問題。
Nutch的開發(fā)人員完成了相應(yīng)的開源實現(xiàn)HDFS和MAPREDUCE,并從Nutch中剝離成為獨立項目HADOOP,到2008年1月,HADOOP成為Apache頂級項目.
狹義上來說,hadoop就是單獨指代hadoop這個軟件,
HDFS :分布式文件系統(tǒng)
MapReduce : 分布式計算系統(tǒng)
Yarn:分布式樣集群資源管理
廣義上來說,hadoop指代大數(shù)據(jù)的一個生態(tài)圈,包括很多其他的軟件
2、hadoop的歷史版本和發(fā)行版公司
2.1 Hadoop歷史版本
1.x版本系列:hadoop版本當中的第二代開源版本,主要修復(fù)0.x版本的一些bug等
2.x版本系列:架構(gòu)產(chǎn)生重大變化,引入了yarn平臺等許多新特性
3.x版本系列: 加入多namenoode新特性
2.2 Hadoop三大發(fā)行版公司
免費開源版本apache:
Apache Hadoop
優(yōu)點:擁有全世界的開源貢獻者,代碼更新迭代版本比較快,
缺點:版本的升級,版本的維護,版本的兼容性,版本的補丁都可能考慮不太周到,
apache所有軟件的下載地址(包括各種歷史版本):
Index of /dist
免費開源版本hortonWorks:
hortonworks主要是雅虎主導(dǎo)Hadoop開發(fā)的副總裁,帶領(lǐng)二十幾個核心成員成立Hortonworks,核心產(chǎn)品軟件HDP(ambari),HDF免費開源,并且提供一整套的web管理界面,供我們可以通過web界面管理我們的集群狀態(tài),web管理界面軟件HDF網(wǎng)址
3、hadoop的架構(gòu)模型
1.x的版本架構(gòu)模型介紹
文件系統(tǒng)核心模塊:
NameNode:集群當中的主節(jié)點,管理元數(shù)據(jù)(文件的大小,文件的位置,文件的權(quán)限),主要用于管理集群當中的各種數(shù)據(jù)
secondaryNameNode:主要能用于hadoop當中元數(shù)據(jù)信息的輔助管理
DataNode:集群當中的從節(jié)點,主要用于存儲集群當中的各種數(shù)據(jù)
數(shù)據(jù)計算核心模塊:
JobTracker:接收用戶的計算請求任務(wù),并分配任務(wù)給從節(jié)點
TaskTracker:負責執(zhí)行主節(jié)點JobTracker分配的任務(wù)
2.x的版本架構(gòu)模型介紹
第一種:NameNode與ResourceManager單節(jié)點架構(gòu)模型
文件系統(tǒng)核心模塊:
NameNode:集群當中的主節(jié)點,主要用于管理集群當中的各種數(shù)據(jù)
secondaryNameNode:主要能用于hadoop當中元數(shù)據(jù)信息的輔助管理
DataNode:集群當中的從節(jié)點,主要用于存儲集群當中的各種數(shù)據(jù)
數(shù)據(jù)計算核心模塊:
ResourceManager:接收用戶的計算請求任務(wù),并負責集群的資源分配
NodeManager:負責執(zhí)行主節(jié)點APPmaster分配的任務(wù)
第二種:NameNode單節(jié)點與ResourceManager高可用架構(gòu)模型
文件系統(tǒng)核心模塊:
NameNode:集群當中的主節(jié)點,主要用于管理集群當中的各種數(shù)據(jù)
secondaryNameNode:主要能用于hadoop當中元數(shù)據(jù)信息的輔助管理
DataNode:集群當中的從節(jié)點,主要用于存儲集群當中的各種數(shù)據(jù)
數(shù)據(jù)計算核心模塊:
ResourceManager:接收用戶的計算請求任務(wù),并負責集群的資源分配,以及計算任務(wù)的劃分,通過zookeeper實現(xiàn)ResourceManager的高可用
NodeManager:負責執(zhí)行主節(jié)點ResourceManager分配的任務(wù)
第三種:NameNode高可用與ResourceManager單節(jié)點架構(gòu)模型
文件系統(tǒng)核心模塊:
NameNode:集群當中的主節(jié)點,主要用于管理集群當中的各種數(shù)據(jù),其中nameNode可以有兩個,形成高可用狀態(tài)
DataNode:集群當中的從節(jié)點,主要用于存儲集群當中的各種數(shù)據(jù)
JournalNode:文件系統(tǒng)元數(shù)據(jù)信息管理
數(shù)