背景 2017年時序數(shù)據(jù)庫忽然火了起來。開年2月Facebook開源了beringei時序數(shù)據(jù)庫;到了4月基于PostgreSQL打造的時序數(shù)據(jù)庫TimeScaleDB也開源...
背景 2017年時序數(shù)據(jù)庫忽然火了起來。開年2月Facebook開源了beringei時序數(shù)據(jù)庫;到了4月基于PostgreSQL打造的時序數(shù)據(jù)庫TimeScaleDB也開源...
Spark core 一、 spark是一個分布式同通用計算框架,可用于離線大數(shù)據(jù)處理、實時流計算、交互式計算、圖計算等,集成了SparkSQL、SparkStream、ML...
Kafka 一、Kafka是一個分布式消息隊列系統(tǒng),以集群方式存在。 優(yōu)點:高吞吐率(每秒百萬級);基于多分區(qū)多副本實現(xiàn)高容錯,并發(fā)能力強(qiáng);易擴(kuò)展(增加blocker)等。 ...
一、基本原理 Hive是基于Hadoop的一個數(shù)據(jù)倉庫工具,可以將結(jié)構(gòu)化數(shù)據(jù)文件映射成一張表,并提供類似SQL的查詢功能。Hive適用于大數(shù)據(jù)離線批處理,不適合實時處理,分為...
一、YARN:Hadoop集群中的同一資源調(diào)度系統(tǒng)。Hadoop2.0后引入,主要功能有:負(fù)責(zé)集群中資源的統(tǒng)一調(diào)度,響應(yīng)客戶端的請求。 優(yōu)缺點 二、YARN核心組件及架構(gòu) 1...
一、HDFS:hadoop分布式文件存儲系統(tǒng)。 優(yōu)點: 1. 基于多副本存儲,實現(xiàn)高容錯 2. 適合大數(shù)據(jù)離線批處理,移動計算,不移動數(shù)據(jù),將數(shù)據(jù)位置暴露給計算框架,把計算任...
ZK,分布式應(yīng)用間的協(xié)調(diào)調(diào)度機(jī)制,監(jiān)聽和管理分布式服務(wù)器間的連接。 一、 zk的數(shù)據(jù)結(jié)構(gòu)——znode 每個Znode由3部分組成 :stat:此為狀態(tài)信息, 描述該Znod...