三、網(wǎng)站初級架構(gòu)
一般網(wǎng)站,剛開始的做法,是三臺服務(wù)器,一臺部署應(yīng)用,一臺部署數(shù)據(jù)庫,一臺部署NFS文件系統(tǒng)。
這是前幾年比較傳統(tǒng)的做法,之前見到一個網(wǎng)站10萬多會員,垂直服裝設(shè)計門戶,N多圖片。使用了一臺服務(wù)器部署了應(yīng)用,數(shù)據(jù)庫以及圖片存儲。出現(xiàn)了很多性能問題。
如下圖:
但是,目前主流的網(wǎng)站架構(gòu)已經(jīng)發(fā)生了翻天覆地的變化。一般都會采用集群的方式,進(jìn)行高可用設(shè)計。至少是下面這個樣子。
(1) 使用集群對應(yīng)用服務(wù)器進(jìn)行冗余,實現(xiàn)高可用;(負(fù)載均衡設(shè)備可與應(yīng)用一塊部署)
使用數(shù)據(jù)庫主備模式,實現(xiàn)數(shù)據(jù)備份和高可用;
四、系統(tǒng)容量預(yù)估
預(yù)估步驟:
- 注冊用戶數(shù)-日均UV量-每日的PV量-每天的并發(fā)量;
- 峰值預(yù)估:平常量的2~3倍;
- 根據(jù)并發(fā)量(并發(fā),事務(wù)數(shù)),存儲容量計算系統(tǒng)容量。
客戶需求:3~5年用戶數(shù)達(dá)到1000萬注冊用戶;
每秒并發(fā)數(shù)預(yù)估:
- 每天的UV為200萬(二八原則);
- 每日每天點擊瀏覽30次;
- PV量:200*30=6000萬;
- 集中訪問量:240.2=4.8小時會有6000萬0.8=4800萬(二八原則);
- 每分并發(fā)量:4.8*60=288分鐘,每分鐘訪問4800/288=16.7萬(約等于);
- 每秒并發(fā)量:16.7萬/60=2780(約等于);
- 假設(shè):高峰期為平常值的三倍,則每秒的并發(fā)數(shù)可以達(dá)到8340次。
- 1毫秒=1.3次訪問;
沒好好學(xué)數(shù)學(xué)后悔了吧??。ú恢酪陨纤闶欠裼绣e誤,呵呵~~)
服務(wù)器預(yù)估:(以tomcat服務(wù)器舉例)
- 按一臺web服務(wù)器,支持每秒300個并發(fā)計算。平常需要10臺服務(wù)器(約等于);[tomcat默認(rèn)配置是150]
- 高峰期:需要30臺服務(wù)器;
容量預(yù)估:70/90原則
系統(tǒng)CPU一般維持在70%左右的水平,高峰期達(dá)到90%的水平,是不浪費資源,并比較穩(wěn)定的。內(nèi)存,IO類似。
以上預(yù)估僅供參考,因為服務(wù)器配置,業(yè)務(wù)邏輯復(fù)雜度等都有影響。在此CPU,硬盤,網(wǎng)絡(luò)等不再進(jìn)行評估。
五、網(wǎng)站架構(gòu)分析
根據(jù)以上預(yù)估,有幾個問題:
- 需要部署大量的服務(wù)器,高峰期計算,可能要部署30臺Web服務(wù)器。并且這三十臺服務(wù)器,只有秒殺,活動時才會用到,存在大量的浪費。
- 所有的應(yīng)用部署在同一臺服務(wù)器,應(yīng)用之間耦合嚴(yán)重。需要進(jìn)行垂直切分和水平切分。
- 大量應(yīng)用存在冗余代碼
- 服務(wù)器SESSION同步耗費大量內(nèi)存和網(wǎng)絡(luò)帶寬
- 數(shù)據(jù)需要頻繁訪問數(shù)據(jù)庫,數(shù)據(jù)庫訪問壓力巨大。
大型網(wǎng)站一般需要做以下架構(gòu)優(yōu)化(優(yōu)化是架構(gòu)設(shè)計時,就要考慮的,一般從架構(gòu)/代碼級別解決,調(diào)優(yōu)主要是簡單參數(shù)的調(diào)整,比如JVM調(diào)優(yōu);如果調(diào)優(yōu)涉及大量代碼改造,就不是調(diào)優(yōu)了,屬于重構(gòu)):
- 業(yè)務(wù)拆分
- 應(yīng)用集群部署(分布式部署,集群部署和負(fù)載均衡)
- 多級緩存
- 單點登錄(分布式Session)
- 數(shù)據(jù)庫集群(讀寫分離,分庫分表)
- 服務(wù)化
- 消息隊列
- 其他技術(shù)
六、網(wǎng)站架構(gòu)優(yōu)化
6.1業(yè)務(wù)拆分
根據(jù)業(yè)務(wù)屬性進(jìn)行垂直切分,劃分為產(chǎn)品子系統(tǒng),購物子系統(tǒng),支付子系統(tǒng),評論子系統(tǒng),客服子系統(tǒng),接口子系統(tǒng)(對接如進(jìn)銷存,短信等外部系統(tǒng))。
根據(jù)業(yè)務(wù)子系統(tǒng)進(jìn)行等級定義,可分為核心系統(tǒng)和非核心系統(tǒng)。核心系統(tǒng):產(chǎn)品子系統(tǒng),購物子系統(tǒng),支付子系統(tǒng);非核心:評論子系統(tǒng),客服子系統(tǒng),接口子系統(tǒng)。
業(yè)務(wù)拆分作用:提升為子系統(tǒng)可由專門的團(tuán)隊和部門負(fù)責(zé),專業(yè)的人做專業(yè)的事,解決模塊之間耦合以及擴(kuò)展性問題;每個子系統(tǒng)單獨部署,避免集中部署導(dǎo)致一個應(yīng)用掛了,全部應(yīng)用不可用的問題。
等級定義作用:用于流量突發(fā)時,對關(guān)鍵應(yīng)用進(jìn)行保護(hù),實現(xiàn)優(yōu)雅降級;保護(hù)關(guān)鍵應(yīng)用不受到影響。
拆分后的架構(gòu)圖:

參考部署方案2

- 如上圖每個應(yīng)用單獨部署
- 核心系統(tǒng)和非核心系統(tǒng)組合部署
6.2應(yīng)用集群部署(分布式,集群,負(fù)載均衡)
分布式部署:將業(yè)務(wù)拆分后的應(yīng)用單獨部署,應(yīng)用直接通過RPC進(jìn)行遠(yuǎn)程通信;
集群部署:電商網(wǎng)站的高可用要求,每個應(yīng)用至少部署兩臺服務(wù)器進(jìn)行集群部署;
負(fù)載均衡:是高可用系統(tǒng)必須的,一般應(yīng)用通過負(fù)載均衡實現(xiàn)高可用,分布式服務(wù)通過內(nèi)置的負(fù)載均衡實現(xiàn)高可用,關(guān)系型數(shù)據(jù)庫通過主備方式實現(xiàn)高可用。
集群部署后架構(gòu)圖:

6.3 多級緩存
緩存按照存放的位置一般可分為兩類本地緩存和分布式緩存。本案例采用二級緩存的方式,進(jìn)行緩存的設(shè)計。一級緩存為本地緩存,二級緩存為分布式緩存。(還有頁面緩存,片段緩存等,那是更細(xì)粒度的劃分)
一級緩存,緩存數(shù)據(jù)字典,和常用熱點數(shù)據(jù)等基本不可變/有規(guī)則變化的信息,二級緩存緩存需要的所有緩存。當(dāng)一級緩存過期或不可用時,訪問二級緩存的數(shù)據(jù)。如果二級緩存也沒有,則訪問數(shù)據(jù)庫。
緩存的比例,一般1:4,即可考慮使用緩存。(理論上是1:2即可)。

根據(jù)業(yè)務(wù)特性可使用以下緩存過期策略:
- 緩存自動過期;
- 緩存觸發(fā)過期;
6.4單點登錄(分布式Session)
系統(tǒng)分割為多個子系統(tǒng),獨立部署后,不可避免的會遇到會話管理的問題。一般可采用Session同步,Cookies,分布式Session方式。電商網(wǎng)站一般采用分布式Session實現(xiàn)。
再進(jìn)一步可以根據(jù)分布式Session,建立完善的單點登錄或賬戶管理系統(tǒng)。

流程說明
- 用戶第一次登錄時,將會話信息(用戶Id和用戶信息),比如以用戶Id為Key,寫入分布式Session;
- 用戶再次登錄時,獲取分布式Session,是否有會話信息,如果沒有則調(diào)到登錄頁;
- 一般采用Cache中間件實現(xiàn),建議使用Redis,因此它有持久化功能,方便分布式Session宕機(jī)后,可以從持久化存儲中加載會話信息;
- 存入會話時,可以設(shè)置會話保持的時間,比如15分鐘,超過后自動超時;
結(jié)合Cache中間件,實現(xiàn)的分布式Session,可以很好的模擬Session會話。
6.5數(shù)據(jù)庫集群(讀寫分離,分庫分表)
大型網(wǎng)站需要存儲海量的數(shù)據(jù),為達(dá)到海量數(shù)據(jù)存儲,高可用,高性能一般采用冗余的方式進(jìn)行系統(tǒng)設(shè)計。一般有兩種方式讀寫分離和分庫分表。
讀寫分離:一般解決讀比例遠(yuǎn)大于寫比例的場景,可采用一主一備,一主多備或多主多備方式。
本案例在業(yè)務(wù)拆分的基礎(chǔ)上,結(jié)合分庫分表和讀寫分離。如下圖:

- 業(yè)務(wù)拆分后:每個子系統(tǒng)需要單獨的庫;
- 如果單獨的庫太大,可以根據(jù)業(yè)務(wù)特性,進(jìn)行再次分庫,比如商品分類庫,產(chǎn)品庫;
- 分庫后,如果表中有數(shù)據(jù)量很大的,則進(jìn)行分表,一般可以按照Id,時間等進(jìn)行分表;(高級的用法是一致性Hash)
- 在分庫,分表的基礎(chǔ)上,進(jìn)行讀寫分離;
相關(guān)中間件可參考Cobar(阿里,目前已不在維護(hù)),TDDL(阿里),Atlas(奇虎360),MyCat(在Cobar基礎(chǔ)上,國內(nèi)很多牛人,號稱國內(nèi)第一開源項目)。
分庫分表后序列的問題,JOIN,事務(wù)的問題,會在分庫分表主題分享中,介紹。
6.6服務(wù)化
將多個子系統(tǒng)公用的功能/模塊,進(jìn)行抽取,作為公用服務(wù)使用。比如本案例的會員子系統(tǒng)就可以抽取為公用的服務(wù)。

6.7消息隊列
消息隊列可以解決子系統(tǒng)/模塊之間的耦合,實現(xiàn)異步,高可用,高性能的系統(tǒng)。是分布式系統(tǒng)的標(biāo)準(zhǔn)配置。本案例中,消息隊列主要應(yīng)用在購物,配送環(huán)節(jié)。
- 用戶下單后,寫入消息隊列,后直接返回客戶端;
- 庫存子系統(tǒng):讀取消息隊列信息,完成減庫存;
- 配送子系統(tǒng):讀取消息隊列信息,進(jìn)行配送;

目前使用較多的MQ有Active MQ,Rabbit MQ,Zero MQ,MS MQ等,需要根據(jù)具體的業(yè)務(wù)場景進(jìn)行選擇。建議可以研究下Rabbit MQ。
6.8其他架構(gòu)(技術(shù))
除了以上介紹的業(yè)務(wù)拆分,應(yīng)用集群,多級緩存,單點登錄,數(shù)據(jù)庫集群,服務(wù)化,消息隊列外。還有CDN,反向代理,分布式文件系統(tǒng),大數(shù)據(jù)處理等系統(tǒng)。
此處不詳細(xì)介紹,大家可以問度娘/Google,有機(jī)會的話也可以分享給大家。
七、架構(gòu)總結(jié)

以上是本次分享的架構(gòu)總結(jié),其中細(xì)節(jié)可參考前面分享的內(nèi)容。其中還有很多可以優(yōu)化和細(xì)化的地方,因為是案例分享,主要針對重要部分做了介紹,工作中需要大家根據(jù)具體的業(yè)務(wù)場景進(jìn)行架構(gòu)設(shè)計。
以上是電商網(wǎng)站架構(gòu)案例的分享一共有三篇,從電商網(wǎng)站的需求,到單機(jī)架構(gòu),逐步演變?yōu)槌S玫模晒﹨⒖嫉姆植际郊軜?gòu)的原型。除具備功能需求外,還具備一定的高性能,高可用,可伸縮,可擴(kuò)展等非功能質(zhì)量需求(架構(gòu)目標(biāo))。