小明:我在一家電商公司上班,最近又要面臨雙11的大考了,每次都會(huì)緊張的要命。
小明:特別是大促開始的前5分鐘,系統(tǒng)的壓力非常大,比平時(shí)流量要翻上10幾倍。這時(shí)候系統(tǒng)往往都會(huì)不可用幾分鐘,壓力山大啊。
程序羊:那現(xiàn)在的架構(gòu)是個(gè)什么樣子的?
小明:我們做了系統(tǒng)拆分,用dubbo作了服務(wù)化,現(xiàn)在的架構(gòu)是這個(gè)樣子的:

程序羊:不錯(cuò),主流的架構(gòu),一般的流量不會(huì)沖垮。
小明:是啊,平時(shí)運(yùn)行很穩(wěn)定,但大促的時(shí)候總會(huì)掛一會(huì)兒。比如說首頁的商品展示,上一次是因?yàn)閮?yōu)惠券服務(wù)比較慢,導(dǎo)致首頁平響標(biāo)高,之后就無法提供服務(wù)了。
小明:由于商品詳情頁的流量比較大,導(dǎo)致下單確認(rèn)頁調(diào)用商品服務(wù)延時(shí)很高,用戶不能下單了。
程序羊:由于某個(gè)服務(wù)不可用,導(dǎo)致某個(gè)重要的服務(wù)不可用,發(fā)生了雪崩。
小明:有什么方法可以解決這個(gè)問題呢?
程序羊:在整體部署架構(gòu)需要做一些調(diào)整,如果想降低系統(tǒng)平響,提高系統(tǒng)質(zhì)量,需要調(diào)整下系統(tǒng)架構(gòu)。
程序羊:我們先看如何調(diào)整部署結(jié)構(gòu),核心思想就是按照重要程度和訪問量進(jìn)行隔離。
小明:部署層面進(jìn)行隔離?
程序羊:大促期間將訪問量大或者比較重要的服務(wù)單獨(dú)部署,做到進(jìn)程層面的隔離。一般來說我們的服務(wù)都讀的量要不寫的量大很多,部署一組從庫專門負(fù)責(zé)讀。來看下部署結(jié)構(gòu)。

小明:這樣的話我就不用擔(dān)心首頁量影響到其他模塊,做了一次隔離。
小明:這樣可以解決一些問題,但是如果這次優(yōu)惠券服務(wù)又延時(shí),首頁還是有可能出不來。
程序羊:可以想象一下,優(yōu)惠券在整個(gè)流程里不是主要流程,如果優(yōu)惠券延時(shí)比較大,我們可以暫時(shí)不展示優(yōu)惠券,這就涉及到非主要流程的降級。
小明: 跟首頁相比,優(yōu)惠券確實(shí)不是最主要的,可以舍車保帥。有沒有什么工具可以方便的做降級,自己寫太耗時(shí)了。
程序羊:可以使用 hytrix,比較成熟的一個(gè)工具,和spring-cloud結(jié)合使用比較簡單。
@HystrixCommand(groupKey = "activitySkuInfoBatch")
@RequestMapping(value = "/activitySkuInfoBatch", method = RequestMethod.GET)
public Map<Long, CurrentActivityProduct> getActivitySkuInfoBatch(
@RequestParam(value = "productIds") String productIds) {
List<Long> productIdList = JacksonUtil.json2List(productIds, Long.class);
return activityProductQueryService.currentActivityProduct(productIdList);
}
小明:這還挺方便的,具體使用方法我找找資料看下。有了進(jìn)程間隔離,有了降級,這下可以穩(wěn)定一些了。
程序羊:hytrix 會(huì)幫咱們做線程間的隔離,又多了一層保障。
小明:如何能提高單個(gè)部署節(jié)點(diǎn)的平響呢,單個(gè)節(jié)點(diǎn)可以承受更多的請求后,就可以少部署一些機(jī)器,也為公司省點(diǎn)錢。O(∩_∩)O哈哈~
程序羊:看了你也是很有追求的。其實(shí)分析下,我們的平靜可能是在存儲(chǔ)上,比如說Redis,DB。我們一個(gè)請求往往要查詢多次存儲(chǔ),也有可能會(huì)連表查詢。
程序羊: 另外我們應(yīng)用的特點(diǎn)是,讀的量要遠(yuǎn)遠(yuǎn)大于寫的量,特別是商品這一類的服務(wù)。
小明:是啊。
程序羊:給你介紹一種架構(gòu)方式CQRS,原理看下圖:

程序羊:CQRS具體的知識(shí),你搜索下,這種架構(gòu)可以讓你每次請求盡量只查詢一次存儲(chǔ)。
程序羊:如果做的好一些,可以直接在反向代理層Nginx上使用LUA直接查詢存儲(chǔ),流量都不會(huì)打到應(yīng)用服務(wù)器上。
小明:這樣應(yīng)用服務(wù)器壓力就小多了。
程序羊:是的,我們的架構(gòu)可以演化成這樣,如下:

小明:這樣的話,一般的流量應(yīng)該都可以抗住了。
程序羊: 開發(fā)的時(shí)候要注意,能異步去做一些事情的時(shí)候就要異步做。
程序羊: 比如說一個(gè)聚合服務(wù),要同事查詢商品和用戶信息,兩個(gè)流程上沒有先后順序,可以并發(fā)異步的去查詢,最后將結(jié)果合并。
小明:按照這么改,大促以后就安枕無憂了。