眾所周知，nginx性能高，而nginx的高性能與其架構(gòu)是分不開的。那么nginx究竟是怎么樣的呢？這一節(jié)我們先來初識(shí)一下nginx框架吧。

NGINX進(jìn)程模型

nginx在啟動(dòng)后，在unix系統(tǒng)中會(huì)以daemon的方式在后臺(tái)運(yùn)行，后臺(tái)進(jìn)程包含一個(gè)master進(jìn)程和多個(gè)worker進(jìn)程。我們也可以手動(dòng)地關(guān)掉后臺(tái)模式，讓nginx在前臺(tái)運(yùn)行，并且通過配置讓nginx取消master進(jìn)程，從而可以使nginx以單進(jìn)程方式運(yùn)行。很顯然，生產(chǎn)環(huán)境下我們肯定不會(huì)這么做，所以關(guān)閉后臺(tái)模式，一般是用來調(diào)試用的。所以，我們可以看到，nginx是以多進(jìn)程的方式來工作的，當(dāng)然nginx也是支持多線程的方式的，只是我們主流的方式還是多進(jìn)程的方式，也是nginx的默認(rèn)方式。

nginx在啟動(dòng)后，會(huì)有一個(gè)master進(jìn)程和多個(gè)worker進(jìn)程。master進(jìn)程主要用來管理worker進(jìn)程，包含：接收來自外界的信號(hào)，向各worker進(jìn)程發(fā)送信號(hào)，監(jiān)控worker進(jìn)程的運(yùn)行狀態(tài)，當(dāng)worker進(jìn)程退出后(異常情況下)，會(huì)自動(dòng)重新啟動(dòng)新的worker進(jìn)程。而基本的網(wǎng)絡(luò)事件，則是放在worker進(jìn)程中來處理了。多個(gè)worker進(jìn)程之間是對(duì)等的，他們同等競(jìng)爭(zhēng)來自客戶端的請(qǐng)求，各進(jìn)程互相之間是獨(dú)立的。一個(gè)請(qǐng)求，只可能在一個(gè)worker進(jìn)程中處理，一個(gè)worker進(jìn)程，不可能處理其它進(jìn)程的請(qǐng)求。worker進(jìn)程的個(gè)數(shù)是可以設(shè)置的，一般我們會(huì)設(shè)置與機(jī)器cpu核數(shù)一致，這里面的原因與nginx的進(jìn)程模型以及事件處理模型是分不開的。nginx的進(jìn)程模型，可以由下圖來表示：

nginx啟動(dòng)后，如果我們要操作nginx，要怎么做呢？從上文中我們可以看到，master來管理worker進(jìn)程，所以我們只需要與master進(jìn)程通信就行了。master進(jìn)程會(huì)接收來自外界發(fā)來的信號(hào)，再根據(jù)信號(hào)做不同的事情。所以我們要控制nginx，只需要通過kill向master進(jìn)程發(fā)送信號(hào)就行了。比如kill -HUP pid，則是告訴nginx，從容地重啟nginx，我們一般用這個(gè)信號(hào)來重啟nginx，或重新加載配置，因?yàn)槭菑娜莸刂貑?，因此服?wù)是不中斷的。master進(jìn)程在接收到HUP信號(hào)后是怎么做的呢？首先master進(jìn)程在接到信號(hào)后，會(huì)先重新加載配置文件，然后再啟動(dòng)新的worker進(jìn)程，并向所有老的worker進(jìn)程發(fā)送信號(hào)，告訴他們可以光榮退休了。新的worker在啟動(dòng)后，就開始接收新的請(qǐng)求，而老的worker在收到來自master的信號(hào)后，就不再接收新的請(qǐng)求，并且在當(dāng)前進(jìn)程中的所有未處理完的請(qǐng)求處理完成后，再退出。當(dāng)然，直接給master進(jìn)程發(fā)送信號(hào)，這是比較老的操作方式，nginx在0.8版本之后，引入了一系列命令行參數(shù)，來方便我們管理。比如，./nginx -s reload，就是來重啟nginx，./nginx -s stop，就是來停止nginx的運(yùn)行。如何做到的呢？我們還是拿reload來說，我們看到，執(zhí)行命令時(shí)，我們是啟動(dòng)一個(gè)新的nginx進(jìn)程，而新的nginx進(jìn)程在解析到reload參數(shù)后，就知道我們的目的是控制nginx來重新加載配置文件了，它會(huì)向master進(jìn)程發(fā)送信號(hào)，然后接下來的動(dòng)作，就和我們直接向master進(jìn)程發(fā)送信號(hào)一樣了。

現(xiàn)在，我們知道了當(dāng)我們?cè)诓僮鱪ginx的時(shí)候，nginx內(nèi)部做了些什么事情，那么，worker進(jìn)程又是如何處理請(qǐng)求的呢？我們前面有提到，worker進(jìn)程之間是平等的，每個(gè)進(jìn)程，處理請(qǐng)求的機(jī)會(huì)也是一樣的。當(dāng)我們提供80端口的http服務(wù)時(shí)，一個(gè)連接請(qǐng)求過來，每個(gè)進(jìn)程都有可能處理這個(gè)連接，怎么做到的呢？首先，每個(gè)worker進(jìn)程都是從master進(jìn)程fork過來，在master進(jìn)程里面，先建立好需要listen的socket（listenfd）之后，然后再fork出多個(gè)worker進(jìn)程。所有worker進(jìn)程的listenfd會(huì)在新連接到來時(shí)變得可讀，為保證只有一個(gè)進(jìn)程處理該連接，所有worker進(jìn)程在注冊(cè)listenfd讀事件前搶accept_mutex，搶到互斥鎖的那個(gè)進(jìn)程注冊(cè)listenfd讀事件，在讀事件里調(diào)用accept接受該連接。當(dāng)一個(gè)worker進(jìn)程在accept這個(gè)連接之后，就開始讀取請(qǐng)求，解析請(qǐng)求，處理請(qǐng)求，產(chǎn)生數(shù)據(jù)后，再返回給客戶端，最后才斷開連接，這樣一個(gè)完整的請(qǐng)求就是這樣的了。我們可以看到，一個(gè)請(qǐng)求，完全由worker進(jìn)程來處理，而且只在一個(gè)worker進(jìn)程中處理。

那么，nginx采用這種進(jìn)程模型有什么好處呢？當(dāng)然，好處肯定會(huì)很多了。首先，對(duì)于每個(gè)worker進(jìn)程來說，獨(dú)立的進(jìn)程，不需要加鎖，所以省掉了鎖帶來的開銷，同時(shí)在編程以及問題查找時(shí)，也會(huì)方便很多。其次，采用獨(dú)立的進(jìn)程，可以讓互相之間不會(huì)影響，一個(gè)進(jìn)程退出后，其它進(jìn)程還在工作，服務(wù)不會(huì)中斷，master進(jìn)程則很快啟動(dòng)新的worker進(jìn)程。當(dāng)然，worker進(jìn)程的異常退出，肯定是程序有bug了，異常退出，會(huì)導(dǎo)致當(dāng)前worker上的所有請(qǐng)求失敗，不過不會(huì)影響到所有請(qǐng)求，所以降低了風(fēng)險(xiǎn)。當(dāng)然，好處還有很多，大家可以慢慢體會(huì)。眾所周知，nginx性能高，而nginx的高性能與其架構(gòu)是分不開的。

NGINX事件模型

上面是關(guān)于nginx的進(jìn)程模型，接下來，我們來看看nginx是如何處理事件的。有人可能要問了，nginx采用多worker的方式來處理請(qǐng)求，每個(gè)worker里面只有一個(gè)主線程，那能夠處理的并發(fā)數(shù)很有限啊，多少個(gè)worker就能處理多少個(gè)并發(fā)，何來高并發(fā)呢？非也，這就是nginx的高明之處，nginx采用了異步非阻塞的方式來處理請(qǐng)求，也就是說，nginx是可以同時(shí)處理成千上萬個(gè)請(qǐng)求的。想想apache的常用工作方式（apache也有異步非阻塞版本，但因其與自帶某些模塊沖突，所以不常用），每個(gè)請(qǐng)求會(huì)獨(dú)占一個(gè)工作線程，當(dāng)并發(fā)數(shù)上到幾千時(shí)，就同時(shí)有幾千的線程在處理請(qǐng)求了。這對(duì)操作系統(tǒng)來說，是個(gè)不小的挑戰(zhàn)，線程帶來的內(nèi)存占用非常大，線程的上下文切換帶來的cpu開銷很大，自然性能就上不去了，而這些開銷完全是沒有意義的。
為什么nginx可以采用異步非阻塞的方式來處理呢，或者異步非阻塞到底是怎么回事呢？我們先回到原點(diǎn)，看看一個(gè)請(qǐng)求的完整過程。首先，請(qǐng)求過來，要建立連接，然后再接收數(shù)據(jù)，接收數(shù)據(jù)后，再發(fā)送數(shù)據(jù)。具體到系統(tǒng)底層，就是讀寫事件，而當(dāng)讀寫事件沒有準(zhǔn)備好時(shí)，必然不可操作，如果不用非阻塞的方式來調(diào)用，那就得阻塞調(diào)用了，事件沒有準(zhǔn)備好，那就只能等了，等事件準(zhǔn)備好了，你再繼續(xù)吧。阻塞調(diào)用會(huì)進(jìn)入內(nèi)核等待，cpu就會(huì)讓出去給別人用了，對(duì)單線程的worker來說，顯然不合適，當(dāng)網(wǎng)絡(luò)事件越多時(shí)，大家都在等待呢，cpu空閑下來沒人用，cpu利用率自然上不去了，更別談高并發(fā)了。好吧，你說加進(jìn)程數(shù)，這跟apache的線程模型有什么區(qū)別，注意，別增加無謂的上下文切換。所以，在nginx里面，最忌諱阻塞的系統(tǒng)調(diào)用了。不要阻塞，那就非阻塞嘍。非阻塞就是，事件沒有準(zhǔn)備好，馬上返回EAGAIN，告訴你，事件還沒準(zhǔn)備好呢，你慌什么，過會(huì)再來吧。好吧，你過一會(huì)，再來檢查一下事件，直到事件準(zhǔn)備好了為止，在這期間，你就可以先去做其它事情，然后再來看看事件好了沒。雖然不阻塞了，但你得不時(shí)地過來檢查一下事件的狀態(tài)，你可以做更多的事情了，但帶來的開銷也是不小的。所以，才會(huì)有了異步非阻塞的事件處理機(jī)制，具體到系統(tǒng)調(diào)用就是像select/poll/epoll/kqueue這樣的系統(tǒng)調(diào)用。它們提供了一種機(jī)制，讓你可以同時(shí)監(jiān)控多個(gè)事件，調(diào)用他們是阻塞的，但可以設(shè)置超時(shí)時(shí)間，在超時(shí)時(shí)間之內(nèi)，如果有事件準(zhǔn)備好了，就返回。這種機(jī)制正好解決了我們上面的兩個(gè)問題，拿epoll為例(在后面的例子中，我們多以epoll為例子，以代表這一類函數(shù))，當(dāng)事件沒準(zhǔn)備好時(shí)，放到epoll里面，事件準(zhǔn)備好了，我們就去讀寫，當(dāng)讀寫返回EAGAIN時(shí)，我們將它再次加入到epoll里面。這樣，只要有事件準(zhǔn)備好了，我們就去處理它，只有當(dāng)所有事件都沒準(zhǔn)備好時(shí)，才在epoll里面等著。這樣，我們就可以并發(fā)處理大量的并發(fā)了，當(dāng)然，這里的并發(fā)請(qǐng)求，是指未處理完的請(qǐng)求，線程只有一個(gè)，所以同時(shí)能處理的請(qǐng)求當(dāng)然只有一個(gè)了，只是在請(qǐng)求間進(jìn)行不斷地切換而已，切換也是因?yàn)楫惒绞录礈?zhǔn)備好，而主動(dòng)讓出的。這里的切換是沒有任何代價(jià)，你可以理解為循環(huán)處理多個(gè)準(zhǔn)備好的事件，事實(shí)上就是這樣的。與多線程相比，這種事件處理方式是有很大的優(yōu)勢(shì)的，不需要?jiǎng)?chuàng)建線程，每個(gè)請(qǐng)求占用的內(nèi)存也很少，沒有上下文切換，事件處理非常的輕量級(jí)。并發(fā)數(shù)再多也不會(huì)導(dǎo)致無謂的資源浪費(fèi)（上下文切換）。更多的并發(fā)數(shù)，只是會(huì)占用更多的內(nèi)存而已。 我之前有對(duì)連接數(shù)進(jìn)行過測(cè)試，在24G內(nèi)存的機(jī)器上，處理的并發(fā)請(qǐng)求數(shù)達(dá)到過200萬?，F(xiàn)在的網(wǎng)絡(luò)服務(wù)器基本都采用這種方式，這也是nginx性能高效的主要原因。
我們之前說過，推薦設(shè)置worker的個(gè)數(shù)為cpu的核數(shù)，在這里就很容易理解了，更多的worker數(shù)，只會(huì)導(dǎo)致進(jìn)程來競(jìng)爭(zhēng)cpu資源了，從而帶來不必要的上下文切換。而且，nginx為了更好的利用多核特性，提供了cpu親緣性的綁定選項(xiàng)，我們可以將某一個(gè)進(jìn)程綁定在某一個(gè)核上，這樣就不會(huì)因?yàn)檫M(jìn)程的切換帶來cache的失效。像這種小的優(yōu)化在nginx中非常常見，同時(shí)也說明了nginx作者的苦心孤詣。比如，nginx在做4個(gè)字節(jié)的字符串比較時(shí)，會(huì)將4個(gè)字符轉(zhuǎn)換成一個(gè)int型，再作比較，以減少cpu的指令數(shù)等等。