發(fā)簡信
IP屬地：湖南
-
Spark
Spark core 一、 spark是一個分布式同通用計(jì)算框架，可用于離線大數(shù)據(jù)處理、實(shí)時流計(jì)算、交互式計(jì)算、圖計(jì)算等，集成了SparkSQL...
-
kafka原理及主要流程+FlumeKafka 一、Kafka是一個分布式消息隊(duì)列系統(tǒng)，以集群方式存在。 優(yōu)點(diǎn)：高吞吐率（每秒百萬級）；基于多分區(qū)多副本實(shí)現(xiàn)高容錯，并發(fā)能力強(qiáng)；易擴(kuò)...
-
Hive一、基本原理 Hive是基于Hadoop的一個數(shù)據(jù)倉庫工具，可以將結(jié)構(gòu)化數(shù)據(jù)文件映射成一張表，并提供類似SQL的查詢功能。Hive適用于大數(shù)據(jù)離...
-
Hadoop生態(tài)圈中的調(diào)度組件-YARN一、YARN：Hadoop集群中的同一資源調(diào)度系統(tǒng)。Hadoop2.0后引入，主要功能有：負(fù)責(zé)集群中資源的統(tǒng)一調(diào)度，響應(yīng)客戶端的請求。 優(yōu)缺點(diǎn) ...
-
HDFS
一、HDFS：hadoop分布式文件存儲系統(tǒng)。 優(yōu)點(diǎn)： 1. 基于多副本存儲，實(shí)現(xiàn)高容錯 2. 適合大數(shù)據(jù)離線批處理，移動計(jì)算，不移動數(shù)據(jù)，將數(shù)...
-
zookeeper搭建
ZK，分布式應(yīng)用間的協(xié)調(diào)調(diào)度機(jī)制，監(jiān)聽和管理分布式服務(wù)器間的連接。 一、 zk的數(shù)據(jù)結(jié)構(gòu)——znode 每個Znode由3部分組成 :stat：...