HDFS體系結(jié)構(gòu) HDFS采用了主從（Master/Slave）結(jié)構(gòu)模型，一個HDFS集群是由一個NameNode和若干個DataNode組成。...
投稿
收錄了10篇文章 · 1人關(guān)注
-
Haddop：HDFS -
HIVE：常用分析函數(shù)
1、lag() over() lag(pay_succ_time, 1, '1990-01-01 00:00:00') over(partiti...
-
HIVE：數(shù)據(jù)傾斜
1、什么是數(shù)據(jù)傾斜？ 數(shù)據(jù)分布不均勻，造成數(shù)據(jù)大量的集中到一點，造成數(shù)據(jù)熱點 2、Hadoop 框架的特性 A、不怕數(shù)據(jù)大，怕數(shù)據(jù)傾斜B、Job...
-
HIVE：小文件合并
HDFS非常容易存儲大數(shù)據(jù)文件，如果Hive中存在過多的小文件會給namecode帶來巨大的性能壓力。同時小文件過多會影響JOB的執(zhí)行，hado...
-
HIVE ：行列轉(zhuǎn)換
舉個栗子 a b 1a b 2a b 3c d ...
-
Kimball維度建模前言 維度模型是數(shù)據(jù)倉庫領(lǐng)域另一位大師Ralph Kimall所倡導(dǎo)，他的《The DataWarehouse Toolkit-The Comp...
-
維度建模：緩慢變化維SCD緩慢變化維（Slowly Changing Dimension）就是變化相對緩慢（相對與快速變化的事實表來說）的維度。 在維度建模理論中，有8種...
-
維度建模：事實表維度建模數(shù)倉領(lǐng)域中的事實表大致分以下三種： a. 事務(wù)事實表b. 周期快照事實表c. 累計快照事實表 一、事務(wù)事實表（稀疏表，相當(dāng)于流水表） 事...
-
數(shù)據(jù)倉庫：架構(gòu)的演變發(fā)展 離線大數(shù)據(jù)架構(gòu)數(shù)據(jù)倉庫概念是Inmon于1990年提出并給出了完整的建設(shè)方法。隨著互聯(lián)網(wǎng)時代來臨，數(shù)據(jù)量暴增，開始使用大數(shù)據(jù)工具來替代經(jīng)典...
-
數(shù)據(jù)倉庫：基礎(chǔ)什么是數(shù)據(jù)倉庫？ 面向主題的，集成的，相對穩(wěn)定的，反映歷史變化的數(shù)據(jù)集合，用于支持管理決策。 數(shù)據(jù)倉庫，英文名稱Data Warehouse，簡...
{var%20f='http://v.t.sina.com.cn/share/share.php?appkey=1881139527',u=z||d.location,p=['&url=',e(u),'&title=',e(t||d.title),'&source=',e(r),'&sourceUrl=',e(l),'&content=',c||'gb2312','&pic=',e(p||'')].join('');function%20a(){if(!window.open([f,p].join(''),'mb',['toolbar=0,status=0,resizable=1,width=440,height=430,left=',(s.width-440)/2,',top=',(s.height-430)/2].join('')))u.href=[f,p].join('');};if(/Firefox/.test(navigator.userAgent))setTimeout(a,0);else%20a();})(screen,document,encodeURIComponent,'','','https://upload.jianshu.io/collections/images/1961076/1628087582.jpg', '推薦專題《數(shù)據(jù)倉庫》（ 分享自 @簡書 ）','http://www.itdecent.cn/c/1d9bb27b7760?utm_campaign=maleskine&utm_content=collection&utm_medium=reader_share&utm_source=weibo','頁面編碼gb2312|utf-8默認(rèn)gb2312'));){kind=link}