一、高并發(fā)和高負(fù)載的約束條件
硬件
部署
操作系統(tǒng)
Web 服務(wù)器
PHP
測試
二、解決之道——硬件篇
處理能力的提升:部署多顆CPU,選擇多核心、具備更高運算頻率、更大高速緩存的CPU;
處理能力的提升最直接的反應(yīng)在于Web請求的處理效率和PHP程序的執(zhí)行效率。
內(nèi)存帶寬與容量:更大的內(nèi)存帶寬和容量;
內(nèi)存帶寬與容量的提升最直接的反應(yīng)在于應(yīng)對數(shù)據(jù)庫大量的數(shù)據(jù)交換。
磁盤搜索與I/O能力:選擇更高的轉(zhuǎn)速、更大的硬盤緩存、組件磁盤陣列(RAID);
磁盤搜索與I/O能力的提升最直接反應(yīng)在于數(shù)據(jù)庫大量的查詢和讀寫以及文件的讀寫。
網(wǎng)絡(luò)帶寬的提升可考慮的因素包括: 更大帶寬、多線路接入、獨享帶寬;
服務(wù)器在大負(fù)載的情況下,對網(wǎng)絡(luò)帶寬的占用是十分可觀的。
策略:硬件設(shè)施是應(yīng)對大負(fù)載的基礎(chǔ),硬件設(shè)施的投入可根據(jù)實際壓力和預(yù)算量力而行。
三、解決之道——部署篇
3.1、服務(wù)器分離
32、數(shù)據(jù)庫集群和庫表散列
3.3、鏡像
3.4、負(fù)載均衡
分類:
1)、DNS輪循
2)代理服務(wù)器負(fù)載均衡
3)地址轉(zhuǎn)換網(wǎng)關(guān)負(fù)載均衡
4)NAT負(fù)載均衡
5)反向代理負(fù)載均衡
6)混合型負(fù)載均衡
策略:根據(jù)硬件投入和業(yè)務(wù)需求,選擇合理的部署方案。
部署方案1:
適用范圍:靜態(tài)內(nèi)容為主體的網(wǎng)站和應(yīng)用系統(tǒng);對系統(tǒng)安全要求較高的網(wǎng)站和應(yīng)用系統(tǒng)。
MainServer:主服務(wù)器
承載程序的主體運行壓力,處理網(wǎng)站或應(yīng)用系統(tǒng)中的動態(tài)請求;
將靜態(tài)頁面推送至多個發(fā)布服務(wù)器;
將附件文件推送至文件服務(wù)器;
安全要求較高,以靜態(tài)為主的網(wǎng)站,可將服務(wù)器置于內(nèi)網(wǎng)屏蔽外網(wǎng)的訪問。
DB Server:數(shù)據(jù)庫服務(wù)器
承載數(shù)據(jù)庫讀寫壓力;
只與主服務(wù)器進(jìn)行數(shù)據(jù)量交換,屏蔽外網(wǎng)訪問。
File/VideoServer:文件/視頻服務(wù)器
承載系統(tǒng)中占用系統(tǒng)資源和帶寬資源較大的數(shù)據(jù)流;
作為大附件的存儲和讀寫倉庫;
作為視頻服務(wù)器將具備視頻自動處理能力。
發(fā)布服務(wù)器組:
只負(fù)責(zé)靜態(tài)頁面的發(fā)布,承載絕大多數(shù)的Web請求;
通過Nginx進(jìn)行負(fù)載均衡部署。
部署方案2:
適用范圍:以動態(tài)交互內(nèi)容為主體的網(wǎng)站或應(yīng)用系統(tǒng);負(fù)載壓力較大,且預(yù)算比較充足的網(wǎng)站或應(yīng)用系統(tǒng);
Web服務(wù)器組:
Web服務(wù)無主從關(guān)系,屬平行冗余設(shè)計;
通過前端負(fù)載均衡設(shè)備或Nginx反向代理實現(xiàn)負(fù)載均衡;
劃分專用文件服務(wù)器/視頻服務(wù)器有效分離輕/重總線;
每臺Web服務(wù)器可通過DEC可實現(xiàn)連接所有數(shù)據(jù)庫,同時劃分主從。
數(shù)據(jù)庫服務(wù)器組:
相對均衡的承載數(shù)據(jù)庫讀寫壓力;
通過數(shù)據(jù)庫物理文件的映射實現(xiàn)多數(shù)據(jù)庫的數(shù)據(jù)同步。
共享磁盤/磁盤陣列
將用于數(shù)據(jù)物理文件的統(tǒng)一讀寫
用于大型附件的存儲倉庫
通過自身物理磁盤的均衡和冗余,確保整體系統(tǒng)的IO效率和數(shù)據(jù)安全;
方案特性:
通過前端負(fù)載均衡,合理分配Web壓力;
通過文件/視頻服務(wù)器與常規(guī)Web服務(wù)器的分離,合理分配輕重數(shù)據(jù)流;
通過數(shù)據(jù)庫服務(wù)器組,合理分配數(shù)據(jù)庫IO壓力;
每臺Web服務(wù)器通常只連接一臺數(shù)據(jù)庫服務(wù)器,通過DEC的心跳檢測,可在極短時間內(nèi)自動切換至冗余數(shù)據(jù)庫服務(wù)器;
磁盤陣列的引入,大幅提升系統(tǒng)IO效率的同時,極大增強(qiáng)了數(shù)據(jù)安全性。
四、解決之道——環(huán)境篇
41、操作系統(tǒng)
操作系統(tǒng)的選擇,關(guān)注點在于
?是否適應(yīng)于搭建SiteEngine所需要的環(huán)境程序?
?系統(tǒng)本身占用的資源比;
?系統(tǒng)安全性;
?系統(tǒng)是否易于操作?
策略:我們選擇FreeBSD,而且是最小化安裝以后的FreeBSD。
4.2、Web服務(wù)器
Web服務(wù)器很大一部分資源占用來自于處理Web請求,通常情況下這也就是Apache產(chǎn)生的壓力,Apache是世界使用排名第一的Web服務(wù)器軟件。它可以運行在幾乎所有廣泛使用的計算機(jī)平臺上。
在高并發(fā)連接的情況下,Nginx是Apache服務(wù)器不錯的替代品。Nginx (“engine x”) 是俄羅斯人編寫的一款高性能的 HTTP 和反向代理服務(wù)器。在國內(nèi),已經(jīng)有新浪、搜狐通行證、網(wǎng)易新聞、網(wǎng)易博客、金山逍遙網(wǎng)、金山愛詞霸、校內(nèi)網(wǎng)、YUPOO相冊、豆瓣、迅雷看看等多家網(wǎng)站、 頻道使用 Nginx 服務(wù)器。
Nginx的優(yōu)勢:
高并發(fā)連接:官方測試能夠支撐5萬并發(fā)連接,在實際生產(chǎn)環(huán)境中跑到2~3萬并發(fā)連接數(shù)。
內(nèi)存消耗少:在3萬并發(fā)連接下,開啟的10個Nginx 進(jìn)程才消耗150M內(nèi)存(15M*10=150M)。
內(nèi)置的健康檢查功能:如果 Nginx Proxy 后端的某臺 Web 服務(wù)器宕機(jī)了,不會影響前端訪問。
策略:相對于老牌的Apache,我們選擇Lighttpd和Nginx這些具有更小的資源占用率和更高的負(fù)載能力的web服務(wù)器。
4.3、Mysql
MySQL本身具備了很強(qiáng)的負(fù)載能力,MySQL優(yōu)化是一項很復(fù)雜的工作,因為這最終需要對系統(tǒng)優(yōu)化的很好理解。數(shù)據(jù)庫工作就是大量的、短時的查詢 和讀寫,除了程序開發(fā)時需要注意建立索引、提高查詢效率等軟件開發(fā)技巧之外,從硬件設(shè)施的角度影響MySQL執(zhí)行效率最主要來自于磁盤搜索、磁盤IO水 平、CPU周期、內(nèi)存帶寬。
根據(jù)服務(wù)器上的硬件和軟件條件進(jìn)行MySQl優(yōu)化。MySQL優(yōu)化的核心在于系統(tǒng)資源的分配,這不等于無限制的給MySQL分配更多的資源。
在MySQL配置文件中最值得關(guān)注的參數(shù):
l???????? 改變索引緩沖區(qū)長度(key_buffer)
l???????? 改變表長(read_buffer_size)
l???????? 設(shè)定打開表的數(shù)目的最大值(table_cache)
l???????? 對緩長查詢設(shè)定一個時間限制(long_query_time)
如果條件允許 ,一般MySQL服務(wù)器安裝在Linux操作系統(tǒng)中,而不是安裝在FreeBSD中。
策略: MySQL優(yōu)化需要根據(jù)業(yè)務(wù)系統(tǒng)的數(shù)據(jù)庫讀寫特性和服務(wù)器硬件配置,制定不同的優(yōu)化方案,并且可以根據(jù)需要部署MySQL的主從結(jié)構(gòu)。
4.4、PHP
1、加載盡可能少的模塊;
2、安裝加速器(都是通過緩存php代碼預(yù)編譯的結(jié)果和數(shù)據(jù)庫結(jié)果來提高php代碼的執(zhí)行速度)
eAccelerator
eAccelerator是一個自由開放源碼php加速器,優(yōu)化和動態(tài)內(nèi)容緩存,提高了性能php腳本的緩存性能,使得PHP腳本在編譯的狀態(tài)下,對服務(wù)器的開銷幾乎完全消除。
Apc
Alternative PHP Cache(APC)是 PHP 的一個免費公開的優(yōu)化代碼緩存。它用來提供免費,公開并且強(qiáng)健的架構(gòu)來緩存和優(yōu)化 PHP 的中間代碼。
memcache
memcache是由Danga Interactive開發(fā)的,高性能的,分布式的內(nèi)存對象緩存系統(tǒng),用于在動態(tài)應(yīng)用中減少數(shù)據(jù)庫負(fù)載,提升訪問速度。主要機(jī)制是通過在內(nèi)存里維護(hù)一個統(tǒng) 一的巨大的hash表,Memcache能夠用來存儲各種格式的數(shù)據(jù),包括圖像、視頻、文件以及數(shù)據(jù)庫檢索的結(jié)果等
策略: 為PHP安裝加速器。
4.5、代理服務(wù)器(緩存服務(wù)器)
Squid Cache(簡稱為Squid)是一個流行的自由軟件(GNU通用公共許可證)的代理服務(wù)器和Web緩存服務(wù)器。Squid有廣泛的用途,從作為網(wǎng)頁服務(wù) 器的前置cache服務(wù)器緩存相關(guān)請求來提高Web服務(wù)器的速度,到為一組人共享網(wǎng)絡(luò)資源而緩存萬維網(wǎng),域名系統(tǒng)和其他網(wǎng)絡(luò)搜索,到通過過濾流量幫助網(wǎng)絡(luò) 安全,到局域網(wǎng)通過代理上網(wǎng)。Squid主要設(shè)計用于在Unix一類系統(tǒng)運行。
策略:安裝Squid 反向代理服務(wù)器,能夠大幅度提高服務(wù)器效率。
5、解決之道——SiteEngine篇
SiteEngine(網(wǎng)站引擎)是指針對應(yīng)用系統(tǒng)程序的架構(gòu)設(shè)計的一套程序化語言框架。目前最主流的是基于多層架構(gòu),分級處理,模塊化設(shè)計的框架,支持mvc動態(tài)頁面展示,核心程序分層處理,增加靜態(tài)化引擎,借助ajax 異步高效處理請求。
6、解決之道——測試篇
6.1、測試方法
6.2、測試用例
6.3、壓力測試
壓力測試是一種基本的質(zhì)量保證行為,它是每個重要軟件測試工作的一部分。壓力測試的基本思路很簡單:不是在常規(guī)條件下運行手動或自動測試,而是在計 算機(jī)數(shù)量較少或系統(tǒng)資源匱乏的條件下運行測試。通常要進(jìn)行壓力測試的資源包括內(nèi)部內(nèi)存、CPU 可用性、磁盤空間和網(wǎng)絡(luò)帶寬等。一般用并發(fā)來做壓力測試。
壓力測試工具:webbench,ApacheBench等
6.4、漏洞測試
在我們的系統(tǒng)中漏洞主要包括:sql注入漏洞,xss跨站腳本攻擊等。安全方面還包括系統(tǒng)軟件,如操作系統(tǒng)漏洞,mysql、apache等的漏洞,一般可以通過升級來解決。