一、數(shù)據(jù)分析的定義:
數(shù)據(jù)分析的目就是把隱藏在一大批看似雜亂無章的數(shù)據(jù)背后的信息集中和提煉出來,總結(jié)出所研究對象的內(nèi)在規(guī)律。
二、數(shù)據(jù)分析過程:
第一步、以事實(shí)為基礎(chǔ)提出假設(shè),界定問題
第二步、將問題細(xì)分,形成互不重疊的子問題
第三步、進(jìn)行數(shù)據(jù)收集與分析,證實(shí)或者證偽假設(shè)的問題
第四步、提出方案,推進(jìn)問題的解決
第五步、執(zhí)行方案,驗(yàn)證數(shù)據(jù)分析。
三、數(shù)據(jù)的種類:
統(tǒng)計學(xué)上把數(shù)據(jù)分為三類,分類數(shù)據(jù),順序數(shù)據(jù),數(shù)值數(shù)據(jù)
分類型數(shù)據(jù):主要是對事物的類別進(jìn)行描述,比如電商網(wǎng)站中的品類,社交系統(tǒng)中用戶的等級
順序型數(shù)據(jù):顧名思義,就是按照順序排列的數(shù)據(jù),這種數(shù)據(jù)也是文字的,如時間順序,空間順序,優(yōu)先等級
數(shù)值型數(shù)據(jù):最常見的數(shù)據(jù)類型,用數(shù)字或文字描述事物,是 數(shù)據(jù)分析的主要來源
四、數(shù)據(jù)分析的種類有三種:
1,描述性數(shù)據(jù)分析:常用對比分析法,平均分析法,交叉分析法。
算數(shù)平均數(shù):算數(shù)平均法和加權(quán)算術(shù)平均法簡單方便,容易受異常值影響。
幾何平均數(shù):主要用于 對比率,指數(shù)進(jìn)行平均,用來計算平均發(fā)展速度,用來計算復(fù)利下的平均年利率,在變量可能為負(fù)數(shù)和零的時候,不能使用,當(dāng)數(shù)據(jù)呈倍數(shù)關(guān)系或者不對稱分布時適用性強(qiáng)。
調(diào)和平均數(shù):也叫倒數(shù)平均數(shù),主要是用來解決無法掌握總體單位數(shù)的情況下,只有每組的變量值和相應(yīng)的標(biāo)志總量,而需要得到平均數(shù)的問題,通常在遇到需要計算平均速度,平均利潤,平均成本指標(biāo)時使用,尤其是觀測值是階段性變異的資料。
2,探索性數(shù)據(jù)分析:相關(guān)分析法,因子分析法,回歸分析法
3,驗(yàn)證性數(shù)據(jù)分析:同上
五、數(shù)據(jù)分析的作用
主要三作用:現(xiàn)狀分析,原因分析,預(yù)測分析
六、數(shù)據(jù)分析操作過程:
1.明確目標(biāo):搜集和明確數(shù)據(jù)分析上下游需求,資源,能力和表達(dá)形式,時間節(jié)點(diǎn)等。
2.數(shù)據(jù)獲取:從數(shù)據(jù)庫,公開出版物,互聯(lián)網(wǎng),市場調(diào)查等方面搜集數(shù)據(jù)。
3.數(shù)據(jù)清洗:數(shù)據(jù)清洗,數(shù)據(jù)轉(zhuǎn)化,數(shù)據(jù)提取,數(shù)據(jù)計算,具體包括數(shù)據(jù)整理入庫,去除無效? 數(shù)據(jù),填充缺失信息,選擇變量
? 第一階段:預(yù)處理,數(shù)據(jù)導(dǎo)入,元數(shù)據(jù)分析,觀察數(shù)據(jù),一般來說100萬條以下用excel,單機(jī)大量? 100萬條以上MYSQL+Navicat,單機(jī)海量1000萬條以上,文本文件+python
? 第二階段:去除補(bǔ)齊有缺失的數(shù)據(jù)
? 第三階段:去除修改格式和內(nèi)容錯誤的數(shù)據(jù)
? 第四階段:去除不需要的數(shù)據(jù)
? 第五階段:去除不需要的數(shù)據(jù)
? 第六階段:關(guān)聯(lián)性驗(yàn)證
4.數(shù)據(jù)整理:數(shù)據(jù)離散化,數(shù)據(jù)標(biāo)準(zhǔn)化,對數(shù)據(jù)進(jìn)行重新編碼,對數(shù)據(jù)表進(jìn)行統(tǒng)計計算,生成各級指標(biāo),主要的目的是將清洗后的數(shù)據(jù)進(jìn)行統(tǒng)一格式,集中存儲。
5.數(shù)據(jù)分析:數(shù)據(jù)分析是將處理后的數(shù)據(jù)進(jìn)行建模分析,描述分析,模型測試,價值提取,高層次的分析方法也叫數(shù)據(jù)挖掘,數(shù)據(jù)挖掘側(cè)重解決四類問題,分類,聚類,關(guān)聯(lián),預(yù)測
6.數(shù)據(jù)展現(xiàn):餅圖,柱狀圖,條形圖,折線圖,雷達(dá)圖等等
7.報告撰寫:將模型加載,對數(shù)據(jù)分析過程總結(jié)和呈現(xiàn)‘
七、數(shù)據(jù)分析報告邏輯
結(jié)論先行,數(shù)據(jù)跟上,邏輯自恰,描述觀點(diǎn),一般以總分總模式為主;
八、數(shù)據(jù)分析模型:
事實(shí)上是使用常見的企業(yè)分析方法論,設(shè)計數(shù)據(jù)分析的維度和范圍,常用的方法包括
1、思考模型
5W+2H:為什么,什么目的,誰,那個領(lǐng)域,什么時候,怎么做
金字塔模型
魚骨圖模型
事實(shí)--解釋--行為
水平思考,事實(shí),感情,批判,樂觀,創(chuàng)造,宏觀
2、戰(zhàn)略分析工具
戰(zhàn)略-3C 公司,對手,顧客
戰(zhàn)略規(guī)劃,橫軸表示競爭要素,縱軸表示競爭水平
對業(yè)務(wù)進(jìn)行優(yōu)先排序,縱軸表示公司優(yōu)勢,橫軸表示市場價值
SWOT矩陣,優(yōu)勢,弱點(diǎn),機(jī)會,危機(jī)
影響要素,五個力分析,供應(yīng)鏈的變化,需求鏈變化,技術(shù)沖擊,新進(jìn)入者,有無替代者
組織7S,保持戰(zhàn)略,共同價值,結(jié)構(gòu),體制,員工,技能,組織文化
3.市場營銷分析模型
市場4P,產(chǎn)品,價格,渠道,廣告
銷售漏斗模型
根據(jù)收入分類的家庭數(shù)量的相對度分布,
人口分布曲線,
意愿能力矩陣
用戶發(fā)布,技術(shù)革新者,有號召力的人,早期用戶,后期跟風(fēng),滯后采用的
服務(wù)營銷三角形,服務(wù)營銷的滲透的過程中,最初關(guān)注功能,然后轉(zhuǎn)移到渠道,最后由品牌影響力
PPM分析,縱軸表示成長率,市場占有率,分為,兒童業(yè)務(wù),明星業(yè)務(wù),瘦狗業(yè)務(wù),現(xiàn)金牛
VRIO分析,價值,稀缺性,跟進(jìn)難度,組織能力
4.常見管理模型
六西格瑪
PDCA循環(huán),計劃,實(shí)施,改善,驗(yàn)證,
價值鏈,橫軸表示研究,開發(fā),采購,生產(chǎn),流通,銷售,售后,縱軸表示競爭對手
緊迫性和重要性的矩陣,重要性和緊迫性
九、數(shù)據(jù)挖掘模型
聚類:kmeans、系統(tǒng)層次聚類
分類:相似度計算、決策樹
回歸:邏輯回歸,線性回歸
降維:主成分分析、因子分析,對應(yīng)分析/mds
文本挖掘:Word2vec、DOC2ver/LDA、文本相似度計算
時間序列等等