大數(shù)據(jù)Hadoop分布式文件系統(tǒng)HDFS的兩類(lèi)節(jié)點(diǎn)NameNode和DataNode

HDFS集群有兩類(lèi)節(jié)點(diǎn),并以管理者-工作者模式運(yùn)行,即一個(gè)NameNode(管理者)和多個(gè)DataNode(工作者)。

HDFS官方架構(gòu)圖

一、NameNode(NN)

——基于內(nèi)存存儲(chǔ) :不會(huì)和磁盤(pán)發(fā)生交換

·只存在內(nèi)存中

·持久化

——NameNode主要功能

·接受客戶(hù)端的讀寫(xiě)服務(wù)

·收集DataNode匯報(bào)的Block列表信息

——NameNode保存metadata信息包括

·文件owership和permissions

·文件大小,時(shí)間

·(Block列表:Block偏移量),位置信息

·Block每副本位置(由DataNode上報(bào))

二、NameNode持久化

——NameNode的metadate信息在啟動(dòng)后會(huì)加載到內(nèi)存

——metadata存儲(chǔ)到磁盤(pán)文件名為”fsimage”

——Block的位置信息不會(huì)保存到fsimage

——edits記錄對(duì)metadata的操作日志。。。redis

三、DataNode(DN)

——本地磁盤(pán)目錄存儲(chǔ)數(shù)據(jù)(Block),文件形式

——同時(shí)存儲(chǔ)Block的元數(shù)據(jù)信息文件

——啟動(dòng)DN時(shí)會(huì)向NN匯報(bào)block信息

——通過(guò)向NN發(fā)送心跳保持與其聯(lián)系(3秒一次),如果NN 10分鐘沒(méi)有收到DN的心跳,則認(rèn)為其已經(jīng)lost,并copy其上的block到其它DN

為回饋大家,想要學(xué)習(xí)java、Java架構(gòu)、大數(shù)據(jù)等技術(shù)的朋友,可以加我微信好友Nancy007001,免費(fèi)提供錄播資料供大家學(xué)習(xí)。

感謝大家的支持?。?!

本文為原創(chuàng)作品,禁止轉(zhuǎn)載!

?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請(qǐng)聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時(shí)請(qǐng)結(jié)合常識(shí)與多方信息審慎甄別。
平臺(tái)聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡(jiǎn)書(shū)系信息發(fā)布平臺(tái),僅提供信息存儲(chǔ)服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

友情鏈接更多精彩內(nèi)容