從無到有：微信后臺系統(tǒng)的演進之路_騰訊大數(shù)據(jù)
http://data.qq.com/article?id=2927
從無到有：微信后臺系統(tǒng)的演進之路_騰訊大數(shù)據(jù)
http://data.qq.com/article?id=2927
從無到有
2011.1.21 微信正式發(fā)布。這一天距離微信項目啟動日約為2個月。就在這2個月里，微信從無到有，大家可能會好奇這期間微信后臺做的最重要的事情是什么？
我想應(yīng)該是以下三件事：
- 確定了微信的消息模型
微信起初定位是一個通訊工具，作為通訊工具最核心的功能是收發(fā)消息。微信團隊源于廣硏團隊，消息模型跟郵箱的郵件模型也很有淵源，都是存儲轉(zhuǎn)發(fā)。
圖 1 微信消息模型
圖1展示了這一消息模型，消息被發(fā)出后，會先在后臺臨時存儲；為使接收者能更快接收到消息，會推送消息通知給接收者；最后客戶端主動到服務(wù)器收取消息。
- 制定了數(shù)據(jù)同步協(xié)議
由于用戶的帳戶、聯(lián)系人和消息等數(shù)據(jù)都在服務(wù)器存儲，如何將數(shù)據(jù)同步到客戶端就成了很關(guān)鍵的問題。為簡化協(xié)議，我們決定通過一個統(tǒng)一的數(shù)據(jù)同步協(xié)議來同步用戶所有的基礎(chǔ)數(shù)據(jù)。
最初的方案是客戶端記錄一個本地數(shù)據(jù)的快照(Snapshot)，需要同步數(shù)據(jù)時，將Snapshot帶到服務(wù)器，服務(wù)器通過計算Snapshot與服務(wù)器數(shù)據(jù)的差異，將差異數(shù)據(jù)發(fā)給客戶端，客戶端再保存差異數(shù)據(jù)完成同步。不過這個方案有兩個問題：一是Snapshot會隨著客戶端數(shù)據(jù)的增多變得越來越大，同步時流量開銷大；二是客戶端每次同步都要計算Snapshot，會帶來額外的性能開銷和實現(xiàn)復(fù)雜度。
幾經(jīng)討論后，方案改為由服務(wù)計算Snapshot，在客戶端同步數(shù)據(jù)時跟隨數(shù)據(jù)一起下發(fā)給客戶端，客戶端無需理解Snapshot，只需存儲起來，在下次數(shù)據(jù)同步數(shù)據(jù)時帶上即可。同時，Snapshot被設(shè)計得非常精簡，是若干個Key-Value的組合，Key代表數(shù)據(jù)的類型，Value代表給到客戶端的數(shù)據(jù)的最新版本號。Key有三個，分別代表：帳戶數(shù)據(jù)、聯(lián)系人和消息。這個同步協(xié)議的一個額外好處是客戶端同步完數(shù)據(jù)后，不需要額外的ACK協(xié)議來確認數(shù)據(jù)收取成功，同樣可以保證不會丟數(shù)據(jù)：只要客戶端拿最新的Snapshot到服務(wù)器做數(shù)據(jù)同步，服務(wù)器即可確認上次數(shù)據(jù)已經(jīng)成功同步完成，可以執(zhí)行后續(xù)操作，例如清除暫存在服務(wù)的消息等等。
此后，精簡方案、減少流量開銷、盡量由服務(wù)器完成較復(fù)雜的業(yè)務(wù)邏輯、降低客戶端實現(xiàn)的復(fù)雜度就作為重要的指導(dǎo)原則，持續(xù)影響著后續(xù)的微信設(shè)計開發(fā)。記得有個比較經(jīng)典的案例是：我們在微信1.2版實現(xiàn)了群聊功能，但為了保證新舊版客戶端間的群聊體驗，我們通過服務(wù)器適配，讓1.0版客戶端也能參與群聊。
- 定型了后臺架構(gòu)
圖 2 微信后臺系統(tǒng)架構(gòu)
微信后臺使用三層架構(gòu)：接入層、邏輯層和存儲層。
接入層提供接入服務(wù)，包括長連接入服務(wù)和短連接入服務(wù)。長連接入服務(wù)同時支持客戶端主動發(fā)起請求和服務(wù)器主動發(fā)起推送；短連接入服務(wù)則只支持客戶端主動發(fā)起請求。
邏輯層包括業(yè)務(wù)邏輯服務(wù)和基礎(chǔ)邏輯服務(wù)。業(yè)務(wù)邏輯服務(wù)封裝了業(yè)務(wù)邏輯，是后臺提供給微信客戶端調(diào)用的API?；A(chǔ)邏輯服務(wù)則抽象了更底層和通用的業(yè)務(wù)邏輯，提供給業(yè)務(wù)邏輯服務(wù)訪問。
存儲層包括數(shù)據(jù)訪問服務(wù)和數(shù)據(jù)存儲服務(wù)。數(shù)據(jù)存儲服務(wù)通過MySQL和SDB(廣硏早期后臺中廣泛使用的Key-Table數(shù)據(jù)存儲系統(tǒng))等底層存儲系統(tǒng)來持久化用戶數(shù)據(jù)。數(shù)據(jù)訪問服務(wù)適配并路由數(shù)據(jù)訪問請求到不同的底層數(shù)據(jù)存儲服務(wù)，面向邏輯層提供結(jié)構(gòu)化的數(shù)據(jù)服務(wù)。比較特別的是，微信后臺每一種不同類型的數(shù)據(jù)都使用單獨的數(shù)據(jù)訪問服務(wù)和數(shù)據(jù)存儲服務(wù)，例如帳戶、消息和聯(lián)系人等等都是獨立的。
微信后臺主要使用C++。后臺服務(wù)使用Svrkit框架搭建，服務(wù)之間通過同步RPC進行通訊。
圖 3 Svrkit 框架
Svrkit是另一個廣硏后臺就已經(jīng)存在的高性能RPC框架，當時尚未廣泛使用，但在微信后臺卻大放異彩。作為微信后臺基礎(chǔ)設(shè)施中最重要的一部分，Svrkit這幾年一直不斷在進化。我們使用Svrkit構(gòu)建了數(shù)以千計的服務(wù)模塊，提供數(shù)萬個服務(wù)接口，每天RPC調(diào)用次數(shù)達幾十萬億次。
這三件事影響深遠，乃至于5年后的今天，我們?nèi)岳^續(xù)沿用最初的架構(gòu)和協(xié)議，甚至還可以支持當初1.0版的微信客戶端。
這里有一個經(jīng)驗教訓(xùn)——運營支撐系統(tǒng)真的很重要。第一個版本的微信后臺是倉促完成的，當時只是完成了基礎(chǔ)業(yè)務(wù)功能，并沒有配套的業(yè)務(wù)數(shù)據(jù)統(tǒng)計等等。我們在開放注冊后，一時間竟沒有業(yè)務(wù)監(jiān)控頁面和數(shù)據(jù)曲線可以看，注冊用戶數(shù)是臨時從數(shù)據(jù)庫統(tǒng)計的，在線數(shù)是從日志里提取出來的，這些數(shù)據(jù)通過每個小時運行一次的腳本（這個腳本也是當天臨時加的）統(tǒng)計出來，然后自動發(fā)郵件到郵件組。還有其他各種業(yè)務(wù)數(shù)據(jù)也通過郵件進行發(fā)布，可以說郵件是微信初期最重要的數(shù)據(jù)門戶。
2011.1.21 當天最高并發(fā)在線數(shù)是 491，而今天這個數(shù)字是4億。
小步慢跑
在微信發(fā)布后的4個多月里，我們經(jīng)歷了發(fā)布后火爆注冊的驚喜，也經(jīng)歷了隨后一直不溫不火的困惑。
這一時期，微信做了很多旨在增加用戶好友量，讓用戶聊得起來的功能。打通騰訊微博私信、群聊、工作郵箱、QQ/郵箱好友推薦等等。對于后臺而言，比較重要的變化就是這些功能催生了對異步隊列的需求。例如，微博私信需要跟外部門對接，不同系統(tǒng)間的處理耗時和速度不一樣，可以通過隊列進行緩沖；群聊是耗時操作，消息發(fā)到群后，可以通過異步隊列來異步完成消息的擴散寫等等。
圖 4 單聊和群聊消息發(fā)送過程
圖4是異步隊列在群聊中的應(yīng)用。微信的群聊是寫擴散的，也就是說發(fā)到群里的一條消息會給群里的每個人都存一份（消息索引）。為什么不是讀擴散呢？有兩個原因：
群的人數(shù)不多，群人數(shù)上限是10（后來逐步加到20、40、100，目前是500），擴散的成本不是太大，不像微博，有成千上萬的粉絲，發(fā)一條微博后，每粉絲都存一份的話，一個是效率太低，另一個存儲量也會大很多；
消息擴散寫到每個人的消息存儲（消息收件箱）后，接收者到后臺同步數(shù)據(jù)時，只需要檢查自己收件箱即可，同步邏輯跟單聊消息是一致的，這樣可以統(tǒng)一數(shù)據(jù)同步流程，實現(xiàn)起來也會很輕量。
異步隊列作為后臺數(shù)據(jù)交互的一種重要模式，成為了同步RPC服務(wù)調(diào)用之外的有力補充，在微信后臺被大量使用。
快速成長
微信的飛速發(fā)展是從2.0版開始的，這個版本發(fā)布了語音聊天功能。之后微信用戶量急速增長，2011.5用戶量破100萬、2011.7 用戶量破1000萬、2012.3 注冊用戶數(shù)突破1億。
伴隨著喜人成績而來的，還有一堆幸福的煩惱。
業(yè)務(wù)快速迭代的壓力
微信發(fā)布時功能很簡單，主要功能就是發(fā)消息。不過在發(fā)語音之后的幾個版本里迅速推出了手機通訊錄、QQ離線消息、查看附近的人、搖一搖、漂流瓶和朋友圈等等功能。
有個廣為流傳的關(guān)于朋友圈開發(fā)的傳奇——朋友圈歷經(jīng)4個月，前后做了30多個版本迭代才最終成型。其實還有一個鮮為人知的故事——那時候因為人員比較短缺，朋友圈后臺長時間只有1位開發(fā)人員。
后臺穩(wěn)定性的要求
用戶多了，功能也多了，后臺模塊數(shù)和機器量在不斷翻番，緊跟著的還有各種故障。
幫助我們順利度過這個階段的，是以下幾個舉措：
- 極簡設(shè)計
雖然各種需求撲面而來，但我們每個實現(xiàn)方案都是一絲不茍完成的。實現(xiàn)需求最大的困難不是設(shè)計出一個方案并實現(xiàn)出來，而是需要在若干個可能的方案中，甄選出最簡單實用的那個。
這中間往往需要經(jīng)過幾輪思考——討論——推翻的迭代過程，謀定而后動有不少好處，一方面可以避免做出華而不實的過度設(shè)計，提升效率；另一方面，通過詳盡的討論出來的看似簡單的方案，細節(jié)考究，往往是可靠性最好的方案。
- 大系統(tǒng)小做
邏輯層的業(yè)務(wù)邏輯服務(wù)最早只有一個服務(wù)模塊（我們稱之為mmweb），囊括了所有提供給客戶端訪問的API，甚至還有一個完整的微信官網(wǎng)。這個模塊架構(gòu)類似Apache，由一個CGI容器（CGIHost）和若干CGI組成（每個CGI即為一個API），不同之處在于每個CGI都是一個動態(tài)庫so，由CGIHost動態(tài)加載。
在mmweb的CGI數(shù)量相對較少的時候，這個模塊的架構(gòu)完全能滿足要求，但當功能迭代加快，CGI量不斷增多之后，開始出現(xiàn)問題：
- 每個CGI都是動態(tài)庫，在某些CGI的共用邏輯的接口定義發(fā)生變化時，不同時期更新上線的CGI可能使用了不同版本的邏輯接口定義，會導(dǎo)致在運行時出現(xiàn)詭異結(jié)果或者進程crash，而且非常難以定位；
- 所有CGI放在一起，每次大版本發(fā)布上線，從測試到灰度再到全面部署完畢，都是一個很漫長的過程，幾乎所有后臺開發(fā)人員都會被同時卡在這個環(huán)節(jié)，非常影響效率；
- 新增的不太重要的CGI有時穩(wěn)定性不好，某些異常分支下會crash，導(dǎo)致CGIHost進程無法服務(wù)，發(fā)消息這些重要CGI受影響沒法運行。
于是我們開始嘗試使用一種新的CGI架構(gòu)——Logicsvr。
Logicsvr基于Svrkit框架。將Svrkit框架和CGI邏輯通過靜態(tài)編譯生成可直接使用HTTP訪問的Logicsvr。我們將mmweb模塊拆分為8個不同服務(wù)模塊。拆分原則是：實現(xiàn)不同業(yè)務(wù)功能的CGI被拆到不同Logicsvr，同一功能但是重要程度不一樣的也進行拆分。例如，作為核心功能的消息收發(fā)邏輯，就被拆為3個服務(wù)模塊：消息同步、發(fā)文本和語音消息、發(fā)圖片和視頻消息。
每個Logicsvr都是一個獨立的二進制程序，可以分開部署、獨立上線。時至今日，微信后臺有數(shù)十個Logicsvr，提供了數(shù)百個CGI服務(wù)，部署在數(shù)千臺服務(wù)器上，每日客戶端訪問量幾千億次。
除了API服務(wù)外，其他后臺服務(wù)模塊也遵循“大系統(tǒng)小做”這一實踐準則，微信后臺服務(wù)模塊數(shù)從微信發(fā)布時的約10個模塊，迅速上漲到數(shù)百個模塊。
- 業(yè)務(wù)監(jiān)控
這一時期，后臺故障很多。比故障更麻煩的是，因為監(jiān)控的缺失，經(jīng)常有些故障我們沒法第一時間發(fā)現(xiàn)，造成故障影響面被放大。
監(jiān)控的缺失一方面是因為在快速迭代過程中，重視功能開發(fā)，輕視了業(yè)務(wù)監(jiān)控的重要性，有故障一直是兵來將擋水來土掩；另一方面是基礎(chǔ)設(shè)施對業(yè)務(wù)邏輯監(jiān)控的支持度較弱?；A(chǔ)設(shè)施提供了機器資源監(jiān)控和Svrkit服務(wù)運行狀態(tài)的監(jiān)控。這個是每臺機器、每個服務(wù)標配的，無需額外開發(fā)，但是業(yè)務(wù)邏輯的監(jiān)控就要麻煩得多了。當時的業(yè)務(wù)邏輯監(jiān)控是通過業(yè)務(wù)邏輯統(tǒng)計功能來做的，實現(xiàn)一個監(jiān)控需要4步：
- 申請日志上報資源；
- 在業(yè)務(wù)邏輯中加入日志上報點，日志會被每臺機器上的agent收集并上傳到統(tǒng)計中心；
- 開發(fā)統(tǒng)計代碼；
- 實現(xiàn)統(tǒng)計監(jiān)控頁面。
可以想象，這種費時費力的模式會反過來降低開發(fā)人員對加入業(yè)務(wù)監(jiān)控的積極性。于是有一天，我們?nèi)ス緝?nèi)的標桿——即通后臺（QQ后臺）取經(jīng)了，發(fā)現(xiàn)解決方案出乎意料地簡單且強大： - 故障報告
之前每次故障后，是由QA牽頭出一份故障報告，著重點是對故障影響的評估和故障定級。新的做法是每個故障不分大小，開發(fā)人員需要徹底復(fù)盤故障過程，然后商定解決方案，補充出一份詳細的技術(shù)報告。這份報告?zhèn)戎赜冢喝绾伪苊馔愋凸收显俅伟l(fā)生、提高故障主動發(fā)現(xiàn)能力、縮短故障響應(yīng)和處理過程。 - 基于 ID-Value 的業(yè)務(wù)無關(guān)的監(jiān)控告警體系
圖 5 基于 ID-Value 的監(jiān)控告警體系
監(jiān)控體系實現(xiàn)思路非常簡單，提供了2個API，允許業(yè)務(wù)代碼在共享內(nèi)存中對某個監(jiān)控ID進行設(shè)置Value或累加Value的功能。每臺機器上的Agent會定時將所有ID-Value上報到監(jiān)控中心，監(jiān)控中心對數(shù)據(jù)匯總?cè)霂旌缶涂梢酝ㄟ^統(tǒng)一的監(jiān)控頁面輸出監(jiān)控曲線，并通過預(yù)先配置的監(jiān)控規(guī)則產(chǎn)生報警。
對于業(yè)務(wù)代碼來說，只需在要被監(jiān)控的業(yè)務(wù)流程中調(diào)用一下監(jiān)控API，并配置好告警條件即可。這就極大地降低了開發(fā)監(jiān)控報警的成本，我們補全了各種監(jiān)控項，讓我們能主動及時地發(fā)現(xiàn)問題。新開發(fā)的功能也會預(yù)先加入相關(guān)監(jiān)控項，以便在少量灰度階段就能直接通過監(jiān)控曲線了解業(yè)務(wù)是否符合預(yù)期。
- KVSvr
微信后臺每個存儲服務(wù)都有自己獨立的存儲模塊，是相互獨立的。每個存儲服務(wù)都有一個業(yè)務(wù)訪問模塊和一個底層存儲模塊組成。業(yè)務(wù)訪問層隔離業(yè)務(wù)邏輯層和底層存儲，提供基于RPC的數(shù)據(jù)訪問接口；底層存儲有兩類：SDB和MySQL。
SDB適用于以用戶UIN(uint32_t)為Key的數(shù)據(jù)存儲，比方說消息索引和聯(lián)系人。優(yōu)點是性能高，在可靠性上，提供基于異步流水同步的Master-Slave模式，Master故障時，Slave可以提供讀數(shù)據(jù)服務(wù)，無法寫入新數(shù)據(jù)。
由于微信賬號為字母+數(shù)字組合，無法直接作為SDB的Key，所以微信帳號數(shù)據(jù)并非使用SDB，而是用MySQL存儲的。MySQL也使用基于異步流水復(fù)制的Master-Slave模式。
第1版的帳號存儲服務(wù)使用Master-Slave各1臺。Master提供讀寫功能，Slave不提供服務(wù)，僅用于備份。當Master有故障時，人工切讀服務(wù)到Slave，無法提供寫服務(wù)。為提升訪問效率，我們還在業(yè)務(wù)訪問模塊中加入了memcached提供Cache服務(wù)，減少對底層存儲訪問。
第2版的帳號存儲服務(wù)還是Master-Slave各1臺，區(qū)別是Slave可以提供讀服務(wù)，但有可能讀到臟數(shù)據(jù)，因此對一致性要求高的業(yè)務(wù)邏輯，例如注冊和登錄邏輯只允許訪問Master。當Master有故障時，同樣只能提供讀服務(wù)，無法提供寫服務(wù)。
第3版的帳號存儲服務(wù)采用1個Master和多個Slave，解決了讀服務(wù)的水平擴展能力。
第4版的帳號服務(wù)底層存儲采用多個Master-Slave組，每組由1個Master和多個Slave組成，解決了寫服務(wù)能力不足時的水平擴展能力。
最后還有個未解決的問題：單個Master-Slave分組中，Master還是單點，無法提供實時的寫容災(zāi)，也就意味著無法消除單點故障。另外Master-Slave的流水同步延時對讀服務(wù)有很大影響，流水出現(xiàn)較大延時會導(dǎo)致業(yè)務(wù)故障。于是我們尋求一個可以提供高性能、具備讀寫水平擴展、沒有單點故障、可同時具備讀寫容災(zāi)能力、能提供強一致性保證的底層存儲解決方案，最終KVSvr應(yīng)運而生。
KVSvr使用基于Quorum的分布式數(shù)據(jù)強一致性算法，提供Key-Value/Key-Table模型的存儲服務(wù)。傳統(tǒng)Quorum算法的性能不高，KVSvr創(chuàng)造性地將數(shù)據(jù)的版本和數(shù)據(jù)本身做了區(qū)分，將Quorum算法應(yīng)用到數(shù)據(jù)的版本的協(xié)商，再通過基于流水同步的異步數(shù)據(jù)復(fù)制提供了數(shù)據(jù)強一致性保證和極高的數(shù)據(jù)寫入性能，另外KVSvr天然具備數(shù)據(jù)的Cache能力，可以提供高效的讀取性能。
KVSvr一舉解決了我們當時迫切需要的無單點故障的容災(zāi)能力。除了第5版的帳號服務(wù)外，很快所有SDB底層存儲模塊和大部分MySQL底層存儲模塊都切換到KVSvr。隨著業(yè)務(wù)的發(fā)展，KVSvr也不斷在進化著，還配合業(yè)務(wù)需要衍生出了各種定制版本。現(xiàn)在的KVSvr仍然作為核心存儲，發(fā)揮著舉足輕重的作用。
平臺化
2011.8 深圳舉行大運會。微信推出“微信深圳大運志愿者服務(wù)中心”服務(wù)號，微信用戶可以搜索“szdy”將這個服務(wù)號加為好友，獲取大會相關(guān)的資訊。當時后臺對“szdy”做了特殊處理，用戶搜索時，會隨機返回“szdy01”，“szdy02”，…，“szdy10”這10個微信號中的1個，每個微信號背后都有一個志愿者在服務(wù)。
2011.9 “微成都”落戶微信平臺，微信用戶可以搜索“wechengdu”加好友，成都市民還可以在“附近的人”看到這個號，我們在后臺給這個帳號做了一些特殊邏輯，可以支持后臺自動回復(fù)用戶發(fā)的消息。
這種需求越來越多，我們就開始做一個媒體平臺，這個平臺后來從微信后臺分出，演變成了微信公眾平臺，獨立發(fā)展壯大，開始了微信的平臺化之路。除微信公眾平臺外，微信后臺的外圍還陸續(xù)出現(xiàn)了微信支付平臺、硬件平臺等等一系列平臺。
圖 6 微信平臺
走出國門
微信走出國門的嘗試開始于3.0版本。從這個版本開始，微信逐步支持繁體、英文等多種語言文字。不過，真正標志性的事情是第一個海外數(shù)據(jù)中心的投入使用。
- 海外數(shù)據(jù)中心
海外數(shù)據(jù)中心的定位是一個自治的系統(tǒng)，也就是說具備完整的功能，能夠不依賴于國內(nèi)數(shù)據(jù)中心獨立運作。
- 多數(shù)據(jù)中心架構(gòu)
圖 7 多數(shù)據(jù)中心架構(gòu)
系統(tǒng)自治對于無狀態(tài)的接入層和邏輯層來說很簡單，所有服務(wù)模塊在海外數(shù)據(jù)中心部署一套就行了。
但是存儲層就有很大麻煩了——我們需要確保國內(nèi)數(shù)據(jù)中心和海外數(shù)據(jù)中心能獨立運作，但不是兩套隔離的系統(tǒng)各自部署，各玩各的，而是一套業(yè)務(wù)功能可以完全互通的系統(tǒng)。因此我們的任務(wù)是需要保證兩個數(shù)據(jù)中心的數(shù)據(jù)一致性，另外Master-Master架構(gòu)是個必選項，也即兩個數(shù)據(jù)中心都需要可寫。
- Master-Master 存儲架構(gòu)
Master-Master架構(gòu)下數(shù)據(jù)的一致性是個很大的問題。兩個數(shù)據(jù)中心之間是個高延時的網(wǎng)絡(luò)，意味著在數(shù)據(jù)中心之間直接使用Paxos算法、或直接部署基于Quorum的KVSvr等看似一勞永逸的方案不適用。
最終我們選擇了跟Yahoo!的PNUTS系統(tǒng)類似的解決方案，需要對用戶集合進行切分，國內(nèi)用戶以國內(nèi)上海數(shù)據(jù)中心為Master，所有數(shù)據(jù)寫操作必須回到國內(nèi)數(shù)據(jù)中心完成；海外用戶以海外數(shù)據(jù)中心為Master，寫操作只能在海外數(shù)據(jù)中心進行。從整體存儲上看，這是一個Master-Master的架構(gòu)，但細到一個具體用戶的數(shù)據(jù)，則是Master-Slave模式，每條數(shù)據(jù)只能在用戶歸屬的數(shù)據(jù)中心可寫，再異步復(fù)制到其他數(shù)據(jù)中心。
圖 8 多數(shù)據(jù)中心的數(shù)據(jù)Master-Master架構(gòu)
- 數(shù)據(jù)中心間的數(shù)據(jù)一致性
這個Master-Master架構(gòu)可以在不同數(shù)據(jù)中心間實現(xiàn)數(shù)據(jù)最終一致性。如何保證業(yè)務(wù)邏輯在這種數(shù)據(jù)弱一致性保證下不會出現(xiàn)問題？
這個問題可以被分解為2個子問題：
用戶訪問自己的數(shù)據(jù)
用戶可以滿世界跑，那是否允許用戶就近接入數(shù)據(jù)中心就對業(yè)務(wù)處理流程有很大影響。如果允許就近接入，同時還要保證數(shù)據(jù)一致性不影響業(yè)務(wù)，就意味著要么用戶數(shù)據(jù)的Master需要可以動態(tài)的改變；要么需要對所有業(yè)務(wù)邏輯進行仔細梳理，嚴格區(qū)分本數(shù)據(jù)中心和跨數(shù)據(jù)中心用戶的請求，將請求路由到正確的數(shù)據(jù)中心處理。
考慮到上述問題會帶來很高昂的實現(xiàn)和維護的復(fù)雜度，我們限制了每個用戶只能接入其歸屬數(shù)據(jù)中心進行操作。如果用戶發(fā)生漫游，其漫游到的數(shù)據(jù)中心會自動引導(dǎo)用戶重新連回歸屬數(shù)據(jù)中心。
這樣用戶訪問自己數(shù)據(jù)的一致性問題就迎刃而解了，因為所有操作被限制在歸屬數(shù)據(jù)中心內(nèi)，其數(shù)據(jù)是有強一致性保證的。此外，還有額外的好處：用戶自己的數(shù)據(jù)（如：消息和聯(lián)系人等）不需要在數(shù)據(jù)中心間同步，這就大大降低了對數(shù)據(jù)同步的帶寬需求。
用戶訪問其他用戶的數(shù)據(jù)
由于不同數(shù)據(jù)中心之間業(yè)務(wù)需要互通，用戶會使用到其他數(shù)據(jù)中心用戶創(chuàng)建的數(shù)據(jù)。例如，參與其他數(shù)據(jù)中心用戶創(chuàng)建的群聊，查看其他數(shù)據(jù)中心用戶的朋友圈等。
仔細分析后可以發(fā)現(xiàn)，大部分場景下對數(shù)據(jù)一致性要求其實并不高。用戶稍遲些才見到自己被加入某個其他數(shù)據(jù)中心用戶建的群、稍遲些才見到某個好友的朋友圈動態(tài)更新其實并不會帶來什么問題。在這些場景下，業(yè)務(wù)邏輯直接訪問本數(shù)據(jù)中心的數(shù)據(jù)。
當然，還是有些場景對數(shù)據(jù)一致性要求很高。比方說給自己設(shè)置微信號，而微信號是需要在整個微信帳號體系里保證唯一的。我們提供了全局唯一的微信號申請服務(wù)來解決這一問題，所有數(shù)據(jù)中心通過這個服務(wù)申請微信號。這種需要特殊處置的場景極少，不會帶來太大問題。 - 可靠的數(shù)據(jù)同步
數(shù)據(jù)中心之間有大量的數(shù)據(jù)同步，數(shù)據(jù)是否能夠達到最終一致，取決于數(shù)據(jù)同步是否可靠。為保證數(shù)據(jù)同步的可靠性，提升同步的可用性，我們又開發(fā)一個基于Quorum算法的隊列組件，這個組件的每一組由3機存儲服務(wù)組成。與一般隊列的不同之處在于，這個組件對隊列寫入操作進行了大幅簡化，3機存儲服務(wù)不需要相互通訊，每個機器上的數(shù)據(jù)都是順序?qū)?，?zhí)行寫操作時在3機能寫入成功2份即為寫入成功；若失敗，則換另外一組再試。因此這個隊列可以達到極高的可用性和寫入性能。每個數(shù)據(jù)中心將需要同步的數(shù)據(jù)寫入本數(shù)據(jù)中心的同步隊列后，由其他數(shù)據(jù)中心的數(shù)據(jù)重放服務(wù)將數(shù)據(jù)拉走并進行重放，達到數(shù)據(jù)同步的目的。
- 網(wǎng)絡(luò)加速
海外數(shù)據(jù)中心建設(shè)周期長，投入大，微信只在香港和加拿大有兩個海外數(shù)據(jù)中心。但世界那么大，即便是這兩個數(shù)據(jù)中心，也還是沒法輻射全球，讓各個角落的用戶都能享受到暢快的服務(wù)體驗。
通過在海外實際對比測試發(fā)現(xiàn)，微信客戶端在發(fā)消息等一些主要使用場景與主要競品有不小的差距。為此，我們跟公司的架構(gòu)平臺部、網(wǎng)絡(luò)平臺部和國際業(yè)務(wù)部等兄弟部門一起合作，圍繞海外數(shù)據(jù)中心，在世界各地精心選址建設(shè)了數(shù)十個POP點（包括信令加速點和圖片CDN網(wǎng)絡(luò)）。另外，通過對移動網(wǎng)絡(luò)的深入分析和研究，我們還對微信的通訊協(xié)議做了大幅優(yōu)化。微信最終在對比測試中趕上并超過了主要的競品。
精耕細作
- 三園區(qū)容災(zāi)
2013.7.22 微信發(fā)生了有史以來最大規(guī)模的故障，消息收發(fā)和朋友圈等服務(wù)出現(xiàn)長達5個小時的故障，故障期間消息量跌了一半。故障的起因是上海數(shù)據(jù)中心一個園區(qū)的主光纖被挖斷，近2千臺服務(wù)器不可用，引發(fā)整個上海數(shù)據(jù)中心（當時國內(nèi)只有這一個數(shù)據(jù)中心）的服務(wù)癱瘓。
故障時，我們曾嘗試把接入到故障園區(qū)的用戶切走，但收效甚微。雖然數(shù)百個在線模塊都做了容災(zāi)和冗余設(shè)計，單個服務(wù)模塊看起來沒有單點故障問題；但整體上看，無數(shù)個服務(wù)實例散布在數(shù)據(jù)中心各個機房的8千多臺服務(wù)器內(nèi)，各服務(wù)RPC調(diào)用復(fù)雜，呈網(wǎng)狀結(jié)構(gòu)，再加上缺乏系統(tǒng)級的規(guī)劃和容災(zāi)驗證，最終導(dǎo)致故障無法主動恢復(fù)。在此之前，我們知道單個服務(wù)出現(xiàn)單機故障不影響系統(tǒng)，但沒人知道2千臺服務(wù)器同時不可用時，整個系統(tǒng)會出現(xiàn)什么不可控的狀況。
其實在這個故障發(fā)生之前3個月，我們已經(jīng)在著手解決這個問題。當時上海數(shù)據(jù)中心內(nèi)網(wǎng)交換機異常，導(dǎo)致微信出現(xiàn)一個出乎意料的故障，在13分鐘的時間里，微信消息收發(fā)幾乎完全不可用。在對故障進行分析時，我們發(fā)現(xiàn)一個消息系統(tǒng)里一個核心模塊三個互備的服務(wù)實例都部署在同一機房。該機房的交換機故障導(dǎo)致這個服務(wù)整體不可用，進而消息跌零。這個服務(wù)模塊是最早期（那個時候微信后臺規(guī)模小，大部分后臺服務(wù)都部署在一個數(shù)據(jù)園區(qū)里）的核心模塊，服務(wù)基于3機冗余設(shè)計，年復(fù)一年可靠地運行著，以至于大家都完全忽視了這個問題。
為解決類似問題，三園區(qū)容災(zāi)應(yīng)運而生，目標是將上海數(shù)據(jù)中心的服務(wù)均勻部署到3個物理上隔離的數(shù)據(jù)園區(qū)，在任意單一園區(qū)整體故障時，微信仍能提供無損服務(wù)。
- 同時服務(wù)
傳統(tǒng)的數(shù)據(jù)中心級災(zāi)備方案是“兩地三中心”，即同城有兩個互備的數(shù)據(jù)中心，異地再建設(shè)一個災(zāi)備中心，這三個數(shù)據(jù)中心平時很可能只有一個在提供在線服務(wù)，故障時再將業(yè)務(wù)流量切換到其他數(shù)據(jù)中心。這里的主要問題是災(zāi)備數(shù)據(jù)中心無實際業(yè)務(wù)流量，在主數(shù)據(jù)中心故障時未必能正常切換到災(zāi)備中心，并且在平時大量的備份資源不提供服務(wù)，也會造成大量的資源浪費。
三園區(qū)容災(zāi)的核心是三個數(shù)據(jù)園區(qū)同時提供服務(wù)，因此即便某個園區(qū)整體故障，那另外兩個園區(qū)的業(yè)務(wù)流量也只會各增加50%。反過來說，只需讓每個園區(qū)的服務(wù)器資源跑在容量上限的2/3，保留1/3的容量即可提供無損的容災(zāi)能力，而傳統(tǒng)“兩地三中心”則有多得多的服務(wù)器資源被閑置。此外，在平時三個園區(qū)同時對外服務(wù)，因此我們在故障時，需要解決的問題是“怎樣把業(yè)務(wù)流量切到其他數(shù)據(jù)園區(qū)？”，而不是“能不能把業(yè)務(wù)流量切到其他數(shù)據(jù)園區(qū)？”，前者顯然是更容易解決的一個問題。 - 數(shù)據(jù)強一致
三園區(qū)容災(zāi)的關(guān)鍵是存儲模塊需要把數(shù)據(jù)均勻分布在3個數(shù)據(jù)園區(qū)，同一份數(shù)據(jù)要在不同園區(qū)有2個以上的一致的副本，這樣才能保證任意單一園區(qū)出災(zāi)后，可以不中斷地提供無損服務(wù)。由于后臺大部分存儲模塊都使用KVSvr，這樣解決方案也相對簡單高效——將KVSvr的每1組機器都均勻部署在3個園區(qū)里。 - 故障時自動切換
三園區(qū)容災(zāi)的另一個難點是對故障服務(wù)的自動屏蔽和自動切換。即要讓業(yè)務(wù)邏輯服務(wù)模塊能準確識別出某些下游服務(wù)實例已經(jīng)無法訪問，然后迅速自動切到其他服務(wù)實例，避免被拖死。我們希望每個業(yè)務(wù)邏輯服務(wù)可以在不借助外部輔助信息（如建設(shè)中心節(jié)點，由中心節(jié)點下發(fā)各個業(yè)務(wù)邏輯服務(wù)的健康狀態(tài)）的情況下，能自行決策迅速屏蔽掉有問題的服務(wù)實例，自動把業(yè)務(wù)流量分散切到其他服務(wù)實例上。另外，我們還建設(shè)了一套手工操作的全局屏蔽系統(tǒng)，可以在大型網(wǎng)絡(luò)故障時，由人工介入屏蔽掉某個園區(qū)所有的機器，迅速將業(yè)務(wù)流量分散到其他兩個數(shù)據(jù)園區(qū)。 - 容災(zāi)效果檢驗
三園區(qū)容災(zāi)是否能正常發(fā)揮作用還需要進行實際的檢驗，我們在上海數(shù)據(jù)中心和海外的香港數(shù)據(jù)中心完成三園區(qū)建設(shè)后，進行了數(shù)次實戰(zhàn)演習(xí)，屏蔽單一園區(qū)上千臺服務(wù)，檢驗容災(zāi)效果是否符合預(yù)期。特別地，為了避免隨著時間的推移某個核心服務(wù)模塊因為某次更新就不再支持三園區(qū)容災(zāi)了，我們還搭建了一套容災(zāi)撥測系統(tǒng)，每天對所有服務(wù)模塊選取某個園區(qū)的服務(wù)主動屏蔽掉，自動檢查服務(wù)整體失敗量是否發(fā)生變化，實現(xiàn)對三園區(qū)容災(zāi)效果的持續(xù)檢驗。
- 性能優(yōu)化
之前我們在業(yè)務(wù)迅速發(fā)展之時，優(yōu)先支撐業(yè)務(wù)功能快速迭代，性能問題無暇兼顧，比較粗放的貫徹了“先扛住再優(yōu)化”的海量之道。2014年開始大幅縮減運營成本，性能優(yōu)化就被提上了日程。
我們基本上對大部分服務(wù)模塊的設(shè)計和實現(xiàn)都進行了重新review，并進行了有針對性的優(yōu)化，這還是可以節(jié)約出不少機器資源的。但更有效的優(yōu)化措施是對基礎(chǔ)設(shè)施的優(yōu)化，具體的說是對Svrkit框架的優(yōu)化。Svrkit框架被廣泛應(yīng)用到幾乎所有服務(wù)模塊，如果框架層面能把機器資源使用到極致，那肯定是事半功倍的。
結(jié)果還真的可以，我們在基礎(chǔ)設(shè)施里加入了對協(xié)程的支持，重點是這個協(xié)程組件可以不破壞原來的業(yè)務(wù)邏輯代碼結(jié)構(gòu)，讓我們原有代碼中使用同步RPC調(diào)用的代碼不做任何修改，就可以直接通過協(xié)程異步化。Svrkit框架直接集成了這個協(xié)程組件，然后美好的事情發(fā)生了，原來單實例最多提供上百并發(fā)請求處理能力的服務(wù)，在重編上線后，轉(zhuǎn)眼間就能提供上千并發(fā)請求處理能力。Svrkit框架的底層實現(xiàn)在這一時期也做了全新的實現(xiàn)，服務(wù)的處理能力大幅提高。
- 防雪崩
我們一直以來都不太擔心某個服務(wù)實例出現(xiàn)故障，導(dǎo)致這個實例完全無法提供服務(wù)的問題，這個在后臺服務(wù)的容災(zāi)體系里可以被處理得很好。最擔心的是雪崩：某個服務(wù)因為某些原因出現(xiàn)過載，導(dǎo)致請求處理時間被大大拉長。于是服務(wù)吞吐量下降，大量請求積壓在服務(wù)的請求隊列太長時間了，導(dǎo)致訪問這個服務(wù)的上游服務(wù)出現(xiàn)超時。更倒霉的是上游服務(wù)還經(jīng)常會重試，然后這個過載的服務(wù)僅有的一點處理能力都在做無用功（即處理完畢返回結(jié)果時，調(diào)用端都已超時放棄），終于這個過載的服務(wù)徹底雪崩了。最糟糕的情況是上游服務(wù)每個請求都耗時那么久，雪崩順著RPC調(diào)用鏈一級級往上傳播，最終單個服務(wù)模塊的過載會引發(fā)大批服務(wù)模塊的雪崩。
我們在一番勒緊褲腰帶節(jié)省機器資源、消滅低負載機器后，所有機器的負載都上來了，服務(wù)過載變得經(jīng)常發(fā)生了。解決這一問題的有力武器是Svrkit框架里的具有QoS保障的FastReject機制，可以快速拒絕掉超過服務(wù)自身處理能力的請求，即使在過載時，也能穩(wěn)定地提供有效輸出。
- 安全加固
近年，互聯(lián)網(wǎng)安全事件時有發(fā)生，各種拖庫層出不窮。為保護用戶的隱私數(shù)據(jù)，我們建設(shè)了一套數(shù)據(jù)保護系統(tǒng)——全程票據(jù)系統(tǒng)。其核心方案是，用戶登錄后，后臺會下發(fā)一個票據(jù)給客戶端，客戶端每次請求帶上票據(jù)，請求在后臺服務(wù)的整個處理鏈條中，所有對核心數(shù)據(jù)服務(wù)的訪問，都會被校驗票據(jù)是否合法，非法請求會被拒絕，從而保障用戶隱私數(shù)據(jù)只能用戶通過自己的客戶端發(fā)起操作來訪問。
新的挑戰(zhàn)
- 資源調(diào)度系統(tǒng)
微信后臺有成千的服務(wù)模塊，部署在全球數(shù)以萬計的服務(wù)器上，一直依靠人工管理。此外，微信后臺主要是提供實時在線服務(wù)，每天的服務(wù)器資源占用在業(yè)務(wù)高峰和低谷時相差很大，在業(yè)務(wù)低谷時計算資源被白白浪費；另一方面，很多離線的大數(shù)據(jù)計算卻受制于計算資源不足，難以高效完成。
我們正在實驗和部署的資源調(diào)度系統(tǒng)（Yard）可以把機器資源的分配和服務(wù)的部署自動化、把離線任務(wù)的調(diào)度自動化，實現(xiàn)了資源的優(yōu)化配置，在業(yè)務(wù)對服務(wù)資源的需求有變化時，能更及時、更彈性地自動實現(xiàn)服務(wù)的重新配置與部署。
- 高可用存儲
基于Quorum算法的KVSvr已經(jīng)實現(xiàn)了強一致性、高可用且高性能的Key-Value/Key-Table存儲。最近，微信后臺又誕生了基于Paxos算法的另一套存儲系統(tǒng)，首先落地的是PhxSQL，一個支持完整MySQL功能，又同時具備強一致性、高可用和高性能的SQL存儲。
