業(yè)務(wù)介紹

什么是秒殺？通俗一點講就是網(wǎng)絡(luò)商家為促銷等目的組織的網(wǎng)上限時搶購活動。

比如說京東秒殺，就是一種定時定量秒殺，在規(guī)定的時間內(nèi)，無論商品是否秒殺完畢，該場次的秒殺活動都會結(jié)束。這種秒殺，對時間不是特別嚴格，只要下手快點，秒中的概率還是比較大的。

淘寶以前就做過一元搶購，一般都是限量 1 件商品，同時價格低到「令人發(fā)齒」，這種秒殺一般都在開始時間 1 到 3 秒內(nèi)就已經(jīng)搶光了，參與這個秒殺一般都是看運氣的，不必太強求。

業(yè)務(wù)特點

• 瞬時并發(fā)量大
  秒殺時會有大量用戶在同一時間進行搶購，瞬時并發(fā)訪問量突增 10 倍，甚至 100 倍以上都有。

• 庫存量少
  一般秒殺活動商品量很少，這就導(dǎo)致了只有極少量用戶能成功購買到。

• 業(yè)務(wù)簡單
  流程比較簡單，一般都是下訂單、扣庫存、支付訂單。

技術(shù)難點

• 現(xiàn)有業(yè)務(wù)的沖擊
  秒殺是營銷活動中的一種，如果和其他營銷活動應(yīng)用部署在同一服務(wù)器上，肯定會對現(xiàn)有其他活動造成沖擊，極端情況下可能導(dǎo)致整個電商系統(tǒng)服務(wù)宕機。

• 直接下訂單
  下單頁面是一個正常的 URL 地址，需要控制在秒殺開始前，不能下訂單，只能瀏覽對應(yīng)活動商品的信息。簡單來說，需要 Disable 訂單按鈕。

• 頁面流量突增
  秒殺活動開始前后，會有很多用戶請求對應(yīng)商品頁面，會造成后臺服務(wù)器的流量突增，同時對應(yīng)的網(wǎng)絡(luò)帶寬增加，需要控制商品頁面的流量不會對后臺服務(wù)器、DB、Redis 等組件的造成過大的壓力。

架構(gòu)設(shè)計思想

• 限流
  由于活動庫存量一般都是很少，對應(yīng)的只有少部分用戶才能秒殺成功。所以我們需要限制大部分用戶流量，只準少量用戶流量進入后端服務(wù)器。

• 削峰
  秒殺開始的那一瞬間，會有大量用戶沖擊進來，所以在開始時候會有一個瞬間流量峰值。如何把瞬間的流量峰值變得更平緩，是能否成功設(shè)計好秒殺系統(tǒng)的關(guān)鍵因素。實現(xiàn)流量削峰填谷，一般的采用緩存和 MQ 中間件來解決。

• 異步
  秒殺其實可以當(dāng)做高并發(fā)系統(tǒng)來處理，在這個時候，可以考慮從業(yè)務(wù)上做兼容，將同步的業(yè)務(wù)，設(shè)計成異步處理的任務(wù)，提高網(wǎng)站的整體可用性。

• 緩存
  秒殺系統(tǒng)的瓶頸主要體現(xiàn)在下訂單、扣減庫存流程中。在這些流程中主要用到 OLTP 的數(shù)據(jù)庫，類似 MySQL、SQLServer、Oracle。由于數(shù)據(jù)庫底層采用 B+ 樹的儲存結(jié)構(gòu)，對應(yīng)我們隨機寫入與讀取的效率，相對較低。如果我們把部分業(yè)務(wù)邏輯遷移到內(nèi)存的緩存或者 Redis 中，會極大的提高并發(fā)效率。

整體架構(gòu)

客戶端優(yōu)化

客戶端優(yōu)化主要有兩個問題：

• 秒殺頁面
  秒殺活動開始前，其實就有很多用戶訪問該頁面了。如果這個頁面的一些資源，比如 CSS、JS、圖片、商品詳情等，都訪問后端服務(wù)器，甚至 DB 的話，服務(wù)肯定會出現(xiàn)不可用的情況。所以一般我們會把這個頁面整體進行靜態(tài)化，并將頁面靜態(tài)化之后的頁面分發(fā)到 CDN 邊緣節(jié)點上，起到壓力分散的作用。

• 防止提前下單
  防止提前下單主要是在靜態(tài)化頁面中加入一個 JS 文件引用，該 JS 文件包含活動是否開始的標記以及開始時的動態(tài)下單頁面的 URL 參數(shù)。同時，這個 JS 文件是不會被 CDN 系統(tǒng)緩存的，會一直請求后端服務(wù)的，所以這個 JS 文件一定要很小。當(dāng)活動快開始的時候（比如提前），通過后臺接口修改這個 JS 文件使之生效。

API 接入層優(yōu)化

客戶端優(yōu)化，對于不是搞計算機方面的用戶還是可以防止住的。但是稍有一定網(wǎng)絡(luò)基礎(chǔ)的用戶就起不到作用了，因此服務(wù)端也需要加些對應(yīng)控制，不能信任客戶端的任何操作。一般控制分為 2 大類：

• 限制用戶維度訪問頻率
  針對同一個用戶（ Userid 維度），做頁面級別緩存，單元時間內(nèi)的請求，統(tǒng)一走緩存，返回同一個頁面。

• 限制商品維度訪問頻率
  大量請求同時間段查詢同一個商品時，可以做頁面級別緩存，不管下回是誰來訪問，只要是這個頁面就直接返回。

SOA 服務(wù)層優(yōu)化

上面兩層只能限制異常用戶訪問，如果秒殺活動運營的比較好，很多用戶都參加了，就會造成系統(tǒng)壓力過大甚至宕機，因此需要后端流量控制。

對于后端系統(tǒng)的控制可以通過消息隊列、異步處理、提高并發(fā)等方式解決。對于超過系統(tǒng)水位線的請求，直接采取 「Fail-Fast」原則，拒絕掉。

秒殺整體流程圖

秒殺系統(tǒng)核心在于層層過濾，逐漸遞減瞬時訪問壓力，減少最終對數(shù)據(jù)庫的沖擊。通過上面流程圖就會發(fā)現(xiàn)壓力最大的地方在哪里？

MQ 排隊服務(wù)，只要 MQ 排隊服務(wù)頂住，后面下訂單與扣減庫存的壓力都是自己能控制的，根據(jù)數(shù)據(jù)庫的壓力，可以定制化創(chuàng)建訂單消費者的數(shù)量，避免出現(xiàn)消費者數(shù)據(jù)量過多，導(dǎo)致數(shù)據(jù)庫壓力過大或者直接宕機。

庫存服務(wù)專門為秒殺的商品提供庫存管理，實現(xiàn)提前鎖定庫存，避免超賣的現(xiàn)象。同時，通過超時處理任務(wù)發(fā)現(xiàn)已搶到商品，但未付款的訂單，并在規(guī)定付款時間后，處理這些訂單，將恢復(fù)訂單商品對應(yīng)的庫存量。

緩存層優(yōu)化

• 防止緩存雪崩、穿透、擊穿

減少緩存滲透：可以在服務(wù)中進行布隆過濾，可以將不存在的商品或券訪問在服務(wù)端過濾掉；或者對緩存中沒有的數(shù)據(jù)key置為null并設(shè)置較短的過期時間，優(yōu)點是簡單易操作，缺點要增加大量的null key，增大了與mysql的不一致性，需要消息機制和mysql保持同步。

防止緩存雪崩：設(shè)置key的過期時間時，采用固定時間+隨機時間的方法，可以有效防止緩存同時過期引起雪崩的問題。

防止緩存擊穿：增加二級緩存: A1為原始緩存，A2為拷貝緩存，A1失效時，可以訪問A2，A1緩存失效時間設(shè)置為短期，A2設(shè)置為長期。

• 限流：對key的操作加鎖排隊(利用setnx進行分布式鎖)，即同時只允許一個線程訪問。

• 避免數(shù)據(jù)傾斜：利用一致性hash算法，合理設(shè)置redis中的key，使其均勻的分布到各個節(jié)點，防止大量請求訪問到少量節(jié)點的熱點問題，而且可以減少單個節(jié)點宕機造成的影響。

總結(jié)

核心思想：層層過濾
盡量將請求攔截在上游，降低下游的壓力
充分利用緩存與消息隊列，提高請求處理速度以及削峰填谷的作用