如何評估改版后的效果?--【產(chǎn)品貓小嘿的產(chǎn)品觀】

網(wǎng)傳產(chǎn)品經(jīng)理有三寶:山寨、改版、再推倒。但實際工作種,每次改版都會遭遇研發(fā)、UED、運營的責(zé)難。產(chǎn)品寶寶們心里苦/(ㄒoㄒ)/~~(工作需要先復(fù)盤迭代這部分,APP設(shè)計法則稍后會繼續(xù)完善)

那如何評估改版后有木有效果?運營數(shù)據(jù),科學(xué)的運營數(shù)據(jù)。五步評估改版后的效果

1【確定關(guān)鍵數(shù)據(jù)指標(biāo)】不同產(chǎn)品關(guān)鍵數(shù)據(jù)指標(biāo)不同

電商產(chǎn)品:收入=訪問量(流量)*轉(zhuǎn)化率*客單價

游戲型產(chǎn)品:收入=用戶活躍數(shù)*付費率(付費用戶的比例)*ARPPU(平均每個付費用戶的收入)

媒體型產(chǎn)品:PV和UV

社區(qū)型產(chǎn)品:活躍度和留存率

(目前涉及到這些稍加整理,歡迎大家繼續(xù)補(bǔ)充O(∩_∩)O~)

2【假設(shè)檢驗】又稱顯著性檢驗。是數(shù)理統(tǒng)計學(xué)中根據(jù)一定假設(shè)條件由樣本推斷總體的一種方法。原理就是先對總體特征做出某種假設(shè),然后根據(jù)樣本統(tǒng)計進(jìn)行推理,看假設(shè)是被接受還是拒絕。H0為原假設(shè),需要去驗證,一般首先假設(shè)H0是正確的,然后根據(jù)顯著性水平選擇是接受還是拒絕。H1備擇假設(shè),一般是原假設(shè)的否命題。當(dāng)H0被拒絕時,默認(rèn)接受H1

3【卡方檢驗】X二次方檢驗,用來驗證兩個總體間某個比率之間是否存在顯著性差異??ǚ綑z驗適用于比率型的數(shù)據(jù),如游戲型產(chǎn)品中的付費率。假設(shè)一定時間內(nèi),比如改版前后各30天,取30天數(shù)據(jù)的均值,改版前月活躍用戶數(shù)10000,月付費用戶數(shù)1000,月付費率 a1=1000/10000=10%

改版后月活躍用戶數(shù)20000,月付費用戶數(shù)3000,月付費率 a2=3000/20000=15%

我們假設(shè)H0:a1=a2,改版前后月付費率相等。H1:a1不等于a2,改版后月付費率不相等。

將兩組數(shù)據(jù)(10000,1000)和(20000,3000)分別輸入一個卡方檢驗?zāi)0?,如下圖得出結(jié)論改版前后的月付費率在95%的置信水平上存在顯著性差異,說明改版后月付費率效果明顯


4【T檢驗】最常見的假設(shè)檢驗類型,主要驗證總體均值間是否存在顯著性差異。T檢驗屬于參數(shù)假設(shè)檢驗,所以它適用于數(shù)值型的數(shù)據(jù)。另外還要保證總體符合正態(tài)分布

如以游戲型產(chǎn)品月ARPPU為例,改版前10天數(shù)據(jù)分別為23.6、28.9、24.1、21.7、27.4、28.6、29、24.2、26.3、22.1

? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ? ?改版后10天數(shù)據(jù)分別為29.1、24.4、30.9、28.8、25.3、29.8、26、30.2、31.7、27.6.

將兩組數(shù)據(jù)輸入EXCEL,使用excel的數(shù)據(jù)分析工具,選擇T檢驗:平均值的成對二樣本分析。輸出檢驗結(jié)果:單尾P值=0.014901。由于0.014901<0.05,即單尾P值<0.05,存在顯著性差異,所以改版后月ARPPU效果顯著。

5【總體結(jié)果評估】會有三種結(jié)果,以游戲型產(chǎn)品為例,月收入=月活躍用戶數(shù)*月付費率*月ARPPU

a三個關(guān)鍵指標(biāo)改版后效果都顯著,則總體改版效果顯著

b三個關(guān)鍵指標(biāo)改版后效果都不顯著,則總體改版效果不顯著

c三個關(guān)鍵指標(biāo)顯著不顯著都存在的情況,依據(jù)月收入增加或減少來判斷改版效果

這個部分復(fù)盤,涉及到很多統(tǒng)計學(xué)的知識,感覺有些吃力,看來知識還是需要多多拓展的。。。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時請結(jié)合常識與多方信息審慎甄別。
平臺聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點,簡書系信息發(fā)布平臺,僅提供信息存儲服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

友情鏈接更多精彩內(nèi)容