大型網(wǎng)站架構(gòu)實(shí)踐

小明:我在一家電商公司上班,最近又要面臨雙11的大考了,每次都會(huì)緊張的要命。

小明:特別是大促開始的前5分鐘,系統(tǒng)的壓力非常大,比平時(shí)流量要翻上10幾倍。這時(shí)候系統(tǒng)往往都會(huì)不可用幾分鐘,壓力山大啊。

程序羊:那現(xiàn)在的架構(gòu)是個(gè)什么樣子的?

小明:我們做了系統(tǒng)拆分,用dubbo作了服務(wù)化,現(xiàn)在的架構(gòu)是這個(gè)樣子的:

系統(tǒng)架構(gòu)

程序羊:不錯(cuò),主流的架構(gòu),一般的流量不會(huì)沖垮。

小明:是啊,平時(shí)運(yùn)行很穩(wěn)定,但大促的時(shí)候總會(huì)掛一會(huì)兒。比如說首頁的商品展示,上一次是因?yàn)閮?yōu)惠券服務(wù)比較慢,導(dǎo)致首頁平響標(biāo)高,之后就無法提供服務(wù)了。

小明:由于商品詳情頁的流量比較大,導(dǎo)致下單確認(rèn)頁調(diào)用商品服務(wù)延時(shí)很高,用戶不能下單了。

程序羊:由于某個(gè)服務(wù)不可用,導(dǎo)致某個(gè)重要的服務(wù)不可用,發(fā)生了雪崩。

小明:有什么方法可以解決這個(gè)問題呢?

程序羊:在整體部署架構(gòu)需要做一些調(diào)整,如果想降低系統(tǒng)平響,提高系統(tǒng)質(zhì)量,需要調(diào)整下系統(tǒng)架構(gòu)。

程序羊:我們先看如何調(diào)整部署結(jié)構(gòu),核心思想就是按照重要程度和訪問量進(jìn)行隔離。

小明:部署層面進(jìn)行隔離?

程序羊:大促期間將訪問量大或者比較重要的服務(wù)單獨(dú)部署,做到進(jìn)程層面的隔離。一般來說我們的服務(wù)都讀的量要不寫的量大很多,部署一組從庫專門負(fù)責(zé)讀。來看下部署結(jié)構(gòu)。

服務(wù)分組.png

小明:這樣的話我就不用擔(dān)心首頁量影響到其他模塊,做了一次隔離。

小明:這樣可以解決一些問題,但是如果這次優(yōu)惠券服務(wù)又延時(shí),首頁還是有可能出不來。

程序羊:可以想象一下,優(yōu)惠券在整個(gè)流程里不是主要流程,如果優(yōu)惠券延時(shí)比較大,我們可以暫時(shí)不展示優(yōu)惠券,這就涉及到非主要流程的降級。

小明: 跟首頁相比,優(yōu)惠券確實(shí)不是最主要的,可以舍車保帥。有沒有什么工具可以方便的做降級,自己寫太耗時(shí)了。

程序羊:可以使用 hytrix,比較成熟的一個(gè)工具,和spring-cloud結(jié)合使用比較簡單。

    @HystrixCommand(groupKey = "activitySkuInfoBatch")
    @RequestMapping(value = "/activitySkuInfoBatch", method = RequestMethod.GET)
    public Map<Long, CurrentActivityProduct> getActivitySkuInfoBatch(
            @RequestParam(value = "productIds") String productIds) {
        List<Long> productIdList = JacksonUtil.json2List(productIds, Long.class);
        return activityProductQueryService.currentActivityProduct(productIdList);
    }

小明:這還挺方便的,具體使用方法我找找資料看下。有了進(jìn)程間隔離,有了降級,這下可以穩(wěn)定一些了。

程序羊:hytrix 會(huì)幫咱們做線程間的隔離,又多了一層保障。

小明:如何能提高單個(gè)部署節(jié)點(diǎn)的平響呢,單個(gè)節(jié)點(diǎn)可以承受更多的請求后,就可以少部署一些機(jī)器,也為公司省點(diǎn)錢。O(∩_∩)O哈哈~

程序羊:看了你也是很有追求的。其實(shí)分析下,我們的平靜可能是在存儲(chǔ)上,比如說Redis,DB。我們一個(gè)請求往往要查詢多次存儲(chǔ),也有可能會(huì)連表查詢。

程序羊: 另外我們應(yīng)用的特點(diǎn)是,讀的量要遠(yuǎn)遠(yuǎn)大于寫的量,特別是商品這一類的服務(wù)。

小明:是啊。

程序羊:給你介紹一種架構(gòu)方式CQRS,原理看下圖:

CQRS

程序羊:CQRS具體的知識(shí),你搜索下,這種架構(gòu)可以讓你每次請求盡量只查詢一次存儲(chǔ)。

程序羊:如果做的好一些,可以直接在反向代理層Nginx上使用LUA直接查詢存儲(chǔ),流量都不會(huì)打到應(yīng)用服務(wù)器上。

小明:這樣應(yīng)用服務(wù)器壓力就小多了。

程序羊:是的,我們的架構(gòu)可以演化成這樣,如下:

CQRS.png

小明:這樣的話,一般的流量應(yīng)該都可以抗住了。

程序羊: 開發(fā)的時(shí)候要注意,能異步去做一些事情的時(shí)候就要異步做。

程序羊: 比如說一個(gè)聚合服務(wù),要同事查詢商品和用戶信息,兩個(gè)流程上沒有先后順序,可以并發(fā)異步的去查詢,最后將結(jié)果合并。

小明:按照這么改,大促以后就安枕無憂了。

最后編輯于
?著作權(quán)歸作者所有,轉(zhuǎn)載或內(nèi)容合作請聯(lián)系作者
【社區(qū)內(nèi)容提示】社區(qū)部分內(nèi)容疑似由AI輔助生成,瀏覽時(shí)請結(jié)合常識(shí)與多方信息審慎甄別。
平臺(tái)聲明:文章內(nèi)容(如有圖片或視頻亦包括在內(nèi))由作者上傳并發(fā)布,文章內(nèi)容僅代表作者本人觀點(diǎn),簡書系信息發(fā)布平臺(tái),僅提供信息存儲(chǔ)服務(wù)。

相關(guān)閱讀更多精彩內(nèi)容

  • Spring Cloud為開發(fā)人員提供了快速構(gòu)建分布式系統(tǒng)中一些常見模式的工具(例如配置管理,服務(wù)發(fā)現(xiàn),斷路器,智...
    卡卡羅2017閱讀 136,658評論 19 139
  • 大型網(wǎng)站架構(gòu) 網(wǎng)站架構(gòu)包括:前端架構(gòu)+應(yīng)用層架構(gòu)+服務(wù)層架構(gòu)+存儲(chǔ)層架構(gòu)+后臺(tái)架構(gòu)+數(shù)據(jù)中心機(jī)房架構(gòu)+安全架構(gòu)+數(shù)...
    運(yùn)維開發(fā)筆記閱讀 1,216評論 0 7
  • 畢業(yè)在即,2018年的6月我就要步入社會(huì)了。 嘗試過考研,并還付諸了努力和準(zhǔn)備,最后我向現(xiàn)實(shí)低頭認(rèn)輸,不管所謂的現(xiàn)...
    我的城堡閱讀 370評論 0 0
  • 當(dāng)喜悅被胸前的紅花淹沒 當(dāng)青春被橄欖綠的夢俘獲 曾經(jīng)的年少輕狂 曾經(jīng)的瀟灑倜儻 在父母的期盼里 在祖國的呼喚中 成...
    玲瓏緒閱讀 357評論 2 6
  • 1、四種訪問控制符:default:不加控制符的時(shí)候,默認(rèn)就是default,只能在同一個(gè)包內(nèi)可以訪問privat...
    cybeyond閱讀 137評論 0 0

友情鏈接更多精彩內(nèi)容