虛擬內(nèi)存

Linux 內(nèi)核給每個(gè)進(jìn)程都分配了一個(gè)獨(dú)立的連續(xù)的虛擬地址空間，每個(gè)進(jìn)程都不能訪問物理地址，至于虛擬地址最終怎么落到物理內(nèi)存里，對進(jìn)程來說是透明的，操作系統(tǒng)會提供一種機(jī)制，將不同進(jìn)程的虛擬地址和不同內(nèi)存的物理地址映射起來。

操作系統(tǒng)引入了虛擬內(nèi)存，進(jìn)程持有的虛擬地址會通過 CPU 芯片中的MMU（內(nèi)存管理單元）的映射關(guān)系，來轉(zhuǎn)換變成物理地址，然后再通過物理地址訪問內(nèi)存，如下圖所示：

內(nèi)存分段

程序是由若干個(gè)邏輯分段組成的，如可由代碼分段、數(shù)據(jù)分段、棧段、堆段組成。不同的段是有不同的屬性的，所以就用分段（Segmentation）的形式把這些段分離出來。

分段機(jī)制下的虛擬地址由兩部分組成，段選擇因子和段內(nèi)偏移量。

• 段選擇因子就保存在段寄存器里面。段選擇因子里面最重要的是段號，用作段表的索引。段表里面保存的是這個(gè)段的基地址、段的界限和特權(quán)等級等。

• 虛擬地址中的段內(nèi)偏移量應(yīng)該位于 0 和段界限之間，如果段內(nèi)偏移量是合法的，就將段基地址加上段內(nèi)偏移量得到物理內(nèi)存地址。

知道了虛擬地址是通過段表與物理地址進(jìn)行映射的，分段機(jī)制會把程序的虛擬地址分成 4 個(gè)段，每個(gè)段在段表中有一個(gè)項(xiàng)，在這一項(xiàng)找到段的基地址，再加上偏移量，于是就能找到物理內(nèi)存中的地址，如下圖：

如果要訪問段 3 中偏移量 500 的虛擬地址，我們可以計(jì)算出物理地址為，段 3 基地址 7000 + 偏移量 500 = 7500。

分段的辦法很好，解決了程序本身不需要關(guān)心具體的物理內(nèi)存地址的問題，但它也有一些不足之處：

1. 內(nèi)存碎片的問題；
2. 內(nèi)存交換的效率低的問題。

分段產(chǎn)生內(nèi)存碎片問題

假設(shè)有 1G 的物理內(nèi)存，用戶執(zhí)行了多個(gè)程序，其中：

• 游戲占用了 512MB 內(nèi)存
• 瀏覽器占用了 128MB 內(nèi)存
• 音樂占用了 256 MB 內(nèi)存。

這個(gè)時(shí)候，如果關(guān)閉了瀏覽器，則空閑內(nèi)存還有 1024 - 512 - 256 = 256MB。

如果這個(gè) 256MB 不是連續(xù)的，被分成了兩段 128 MB 內(nèi)存，這就會導(dǎo)致沒有空間再打開一個(gè) 200MB 的程序。

這里的內(nèi)存碎片的問題共有兩處地方：

• 外部內(nèi)存碎片，也就是產(chǎn)生了多個(gè)不連續(xù)的小物理內(nèi)存，導(dǎo)致新的程序無法被裝載；
• 內(nèi)部內(nèi)存碎片，程序所有的內(nèi)存都被裝載到了物理內(nèi)存，但是這個(gè)程序有部分的內(nèi)存可能并不是很常使用，這也會導(dǎo)致內(nèi)存的浪費(fèi)；

針對上面兩種內(nèi)存碎片的問題，解決的方式會有所不同。

解決外部內(nèi)存碎片的問題就是內(nèi)存交換。

可以把音樂程序占用的那 256MB 內(nèi)存寫到硬盤上，然后再從硬盤上讀回來到內(nèi)存里。不過再讀回的時(shí)候，我們不能裝載回原來的位置，而是緊緊跟著那已經(jīng)被占用了的 512MB 內(nèi)存后面。這樣就能空缺出連續(xù)的 256MB 空間，于是新的 200MB 程序就可以裝載進(jìn)來。

這個(gè)內(nèi)存交換空間，在 Linux 系統(tǒng)里，也就是我們?？吹降?Swap 空間，這塊空間是從硬盤劃分出來的，用于內(nèi)存與硬盤的空間交換。

分段導(dǎo)致內(nèi)存交換效率低問題

對于多進(jìn)程的系統(tǒng)來說，用分段的方式，內(nèi)存碎片是很容易產(chǎn)生的，產(chǎn)生了內(nèi)存碎片，那不得不重新 Swap 內(nèi)存區(qū)域，這個(gè)過程會產(chǎn)生性能瓶頸。
因?yàn)橛脖P的訪問速度要比內(nèi)存慢太多了，每一次內(nèi)存交換，我們都需要把一大段連續(xù)的內(nèi)存數(shù)據(jù)寫到硬盤上。
所以，如果內(nèi)存交換的時(shí)候，交換的是一個(gè)占內(nèi)存空間很大的程序，這樣整個(gè)機(jī)器都會顯得卡頓。
為了解決內(nèi)存分段的內(nèi)存碎片和內(nèi)存交換效率低的問題，就出現(xiàn)了內(nèi)存分頁。

內(nèi)存分頁

分段的好處就是能產(chǎn)生連續(xù)的內(nèi)存空間，但是會出現(xiàn)內(nèi)存碎片和內(nèi)存交換的空間太大的問題。

要解決這些問題，那么就要想出能少出現(xiàn)一些內(nèi)存碎片的辦法。另外，當(dāng)需要進(jìn)行內(nèi)存交換的時(shí)候，讓需要交換寫入或者從磁盤裝載的數(shù)據(jù)更少一點(diǎn)，這樣就可以解決問題了。這個(gè)辦法，也就是內(nèi)存分頁（Paging）。

分頁是把整個(gè)虛擬和物理內(nèi)存空間切成一段段固定尺寸的大小。這樣一個(gè)連續(xù)并且尺寸固定的內(nèi)存空間，我們叫頁（Page）。在 Linux 下，每一頁的大小為 4KB。

虛擬地址與物理地址之間通過頁表來映射，如下圖：

頁表實(shí)際上存儲在 CPU 的內(nèi)存管理單元 （MMU） 中，于是 CPU 就可以直接通過 MMU，找出要實(shí)際要訪問的物理內(nèi)存地址。

而當(dāng)進(jìn)程訪問的虛擬地址在頁表中查不到時(shí)，系統(tǒng)會產(chǎn)生一個(gè)缺頁異常，進(jìn)入系統(tǒng)內(nèi)核空間分配物理內(nèi)存、更新進(jìn)程頁表，最后再返回用戶空間，恢復(fù)進(jìn)程的運(yùn)行。

分頁如何解決分段的內(nèi)存碎片、內(nèi)存交換效率低的問題

由于內(nèi)存空間都是預(yù)先劃分好的，也就不會像分段會產(chǎn)生間隙非常小的內(nèi)存，這正是分段會產(chǎn)生內(nèi)存碎片的原因。而采用了分頁，那么釋放的內(nèi)存都是以頁為單位釋放的，也就不會產(chǎn)生無法給進(jìn)程使用的小內(nèi)存。

如果內(nèi)存空間不夠，操作系統(tǒng)會把其他正在運(yùn)行的進(jìn)程中的「最近沒被使用」的內(nèi)存頁面給釋放掉，也就是暫時(shí)寫在硬盤上，稱為換出（Swap Out）。一旦需要的時(shí)候，再加載進(jìn)來，稱為換入（Swap In）。所以，一次性寫入磁盤的也只有少數(shù)的一個(gè)頁或者幾個(gè)頁，不會花太多時(shí)間，內(nèi)存交換的效率就相對比較高。

更進(jìn)一步地，分頁的方式使得我們在加載程序的時(shí)候，不再需要一次性都把程序加載到物理內(nèi)存中。我們完全可以在進(jìn)行虛擬內(nèi)存和物理內(nèi)存的頁之間的映射之后，并不真的把頁加載到物理內(nèi)存里，而是只有在程序運(yùn)行中，需要用到對應(yīng)虛擬內(nèi)存頁里面的指令和數(shù)據(jù)時(shí)，再加載到物理內(nèi)存里面去。

分頁機(jī)制下，虛擬地址和物理地址映射方式

在分頁機(jī)制下，虛擬地址分為兩部分，頁號和頁內(nèi)偏移。頁號作為頁表的索引，頁表包含物理頁每頁所在物理內(nèi)存的基地址，這個(gè)基地址與頁內(nèi)偏移的組合就形成了物理內(nèi)存地址，見下圖。

總結(jié)一下，對于一個(gè)內(nèi)存地址轉(zhuǎn)換，其實(shí)就是這樣三個(gè)步驟：

把虛擬內(nèi)存地址，切分成頁號和偏移量(一般為4k)；
根據(jù)頁號，從頁表里面，查詢對應(yīng)的物理頁號；
直接拿物理頁號，加上前面的偏移量，就得到了物理內(nèi)存地址。

下面舉個(gè)例子，虛擬內(nèi)存中的頁通過頁表映射為了物理內(nèi)存中的頁，如下圖：

單頁表分頁缺陷

主要是空間上缺陷，因?yàn)椴僮飨到y(tǒng)是可以同時(shí)運(yùn)行非常多的進(jìn)程的，那就意味著頁表會非常的龐大。

在 32 位的環(huán)境下，虛擬地址空間共有 4GB，假設(shè)一個(gè)頁的大小是 4KB（2^12），那么就需要大約 100 萬 （2^20） 個(gè)頁，每個(gè)「頁表項(xiàng)」需要 4 個(gè)字節(jié)大小來存儲，那么整個(gè) 4GB 空間的映射就需要有 4MB 的內(nèi)存來存儲頁表。

這 4MB 大小的頁表，看起來也不是很大。但是要知道每個(gè)進(jìn)程都是有自己的虛擬地址空間的，也就說都有自己的頁表。

那么，100 個(gè)進(jìn)程的話，就需要 400MB 的內(nèi)存來存儲頁表，這是非常大的內(nèi)存了，更別說 64 位的環(huán)境了。

多級頁表

要解決上面的問題，就需要采用的是一種叫作多級頁表（Multi-Level Page Table）的解決方案。

在前面我們知道了，對于單頁表的實(shí)現(xiàn)方式，在 32 位和頁大小 4KB 的環(huán)境下，一個(gè)進(jìn)程的頁表需要裝下 100 多萬個(gè)「頁表項(xiàng)」，并且每個(gè)頁表項(xiàng)是占用 4 字節(jié)大小的，于是相當(dāng)于每個(gè)頁表需占用 4MB 大小的空間。

我們把這個(gè) 100 多萬個(gè)「頁表項(xiàng)」的單級頁表再分頁，將頁表（一級頁表）分為 1024 個(gè)頁表（二級頁表），每個(gè)表（二級頁表）中包含 1024 個(gè)「頁表項(xiàng)」，形成二級分頁。如下圖所示：

分了二級表，映射 4GB 地址空間就需要 4KB（一級頁表）+ 4MB（二級頁表）的內(nèi)存，這樣占用空間是更大了。 單頁表分頁上，單個(gè)進(jìn)程頁表占用是4KB；而二級頁表下，是4MB+4KB。

當(dāng)然如果 4GB 的虛擬地址全部都映射到了物理內(nèi)上的，二級分頁占用空間確實(shí)是更大了，但是，我們往往不會為一個(gè)進(jìn)程分配那么多內(nèi)存。

根據(jù)計(jì)算機(jī)組成原理里面的局部性原理

每個(gè)進(jìn)程都有 4GB 的虛擬地址空間，而顯然對于大多數(shù)程序來說，其使用到的空間遠(yuǎn)未達(dá)到 4GB，因?yàn)闀嬖诓糠謱?yīng)的頁表項(xiàng)都是空的，根本沒有分配，對于已分配的頁表項(xiàng)，如果存在最近一定時(shí)間未訪問的頁表，在物理內(nèi)存緊張的情況下，操作系統(tǒng)會將頁面換出到硬盤，也就是說不會占用物理內(nèi)存。

如果使用了二級分頁，一級頁表就可以覆蓋整個(gè) 4GB 虛擬地址空間，但如果某個(gè)一級頁表的頁表項(xiàng)沒有被用到，也就不需要?jiǎng)?chuàng)建這個(gè)頁表項(xiàng)對應(yīng)的二級頁表了，即可以在需要時(shí)才創(chuàng)建二級頁表。

做個(gè)簡單的計(jì)算，假設(shè)只有 20% 的一級頁表項(xiàng)被用到了，那么頁表占用的內(nèi)存空間就只有 4KB（一級頁表） + 20% * 4MB（二級頁表）= 0.804MB，這對比單級頁表固定的 4MB ，就是一個(gè)巨大的節(jié)約。

那么為什么不分級的頁表就做不到這樣節(jié)約內(nèi)存呢？我們從頁表的性質(zhì)來看，保存在內(nèi)存中的頁表承擔(dān)的職責(zé)是將虛擬地址翻譯成物理地址。假如虛擬地址在頁表中找不到對應(yīng)的頁表項(xiàng)，計(jì)算機(jī)系統(tǒng)就不能工作了。

所以頁表一定要覆蓋全部虛擬地址空間，不分級的頁表就需要有 100 多萬個(gè)頁表項(xiàng)來映射，而二級分頁則只需要 1024 個(gè)頁表項(xiàng)（此時(shí)一級頁表覆蓋到了全部虛擬地址空間，二級頁表在需要時(shí)創(chuàng)建）。

我們把二級分頁再推廣到多級頁表，就會發(fā)現(xiàn)頁表占用的內(nèi)存空間更少了，這一切都要?dú)w功于對局部性原理的充分應(yīng)用。

對于 64 位的系統(tǒng)，兩級分頁肯定不夠了，就變成了四級目錄，分別是：

• 全局頁目錄項(xiàng) PGD（Page Global Directory）；
• 上層頁目錄項(xiàng) PUD（Page Upper Directory）；
• 中間頁目錄項(xiàng) PMD（Page Middle Directory）；
• 頁表項(xiàng) PTE（Page Table Entry）；
• 最后一個(gè)索引表示頁內(nèi)偏移。

TLB

多級頁表雖然解決了空間上的問題，但是虛擬地址到物理地址的轉(zhuǎn)換就多了幾道轉(zhuǎn)換的工序，這顯然就降低了這倆地址轉(zhuǎn)換的速度，也就是帶來了時(shí)間上的開銷。

程序是有局部性的，即在一段時(shí)間內(nèi)，整個(gè)程序的執(zhí)行僅限于程序中的某一部分。相應(yīng)地，執(zhí)行所訪問的存儲空間也局限于某個(gè)內(nèi)存區(qū)域。

可以利用這一特性，把最常訪問的幾個(gè)頁表項(xiàng)存儲到訪問速度更快的硬件，于是計(jì)算機(jī)科學(xué)家們，就在 CPU 芯片中，加入了一個(gè)專門存放程序最常訪問的頁表項(xiàng)的 Cache，這個(gè) Cache 就是 TLB（Translation Lookaside Buffer） ，通常稱為頁表緩存、轉(zhuǎn)址旁路緩存、快表等。

在 CPU 芯片里面，封裝了內(nèi)存管理單元（Memory Management Unit）芯片，它用來完成地址轉(zhuǎn)換和 TLB 的訪問與交互。

有了 TLB 后，那么 CPU 在尋址時(shí)，會先查 TLB，如果沒找到，才會繼續(xù)查常規(guī)的頁表。
TLB 的命中率其實(shí)是很高的，因?yàn)槌绦蜃畛ＴL問的頁就那么幾個(gè)。

段頁式內(nèi)存管理

內(nèi)存分段和內(nèi)存分頁并不是對立的，它們是可以組合起來在同一個(gè)系統(tǒng)中使用的，那么組合起來后，通常稱為段頁式內(nèi)存管理。

段頁式內(nèi)存管理實(shí)現(xiàn)的方式：

• 先將程序劃分為多個(gè)有邏輯意義的段，也就是前面提到的分段機(jī)制；
• 接著再把每個(gè)段劃分為多個(gè)頁，也就是對分段劃分出來的連續(xù)空間，再劃分固定大小的頁；

這樣，地址結(jié)構(gòu)就由段號、段內(nèi)頁號和頁內(nèi)位移三部分組成。

用于段頁式地址變換的數(shù)據(jù)結(jié)構(gòu)是每一個(gè)程序一張段表，每個(gè)段又建立一張頁表，段表中的地址是頁表的起始地址，而頁表中的地址則為某頁的物理頁號，如圖所示：

段頁式地址變換中要得到物理地址須經(jīng)過三次內(nèi)存訪問：

• 第一次訪問段表，得到頁表起始地址；
• 第二次訪問頁表，得到物理頁號；
• 第三次將物理頁號與頁內(nèi)位移組合，得到物理地址。

可用軟、硬件相結(jié)合的方法實(shí)現(xiàn)段頁式地址變換，這樣雖然增加了硬件成本和系統(tǒng)開銷，但提高了內(nèi)存的利用率。

Linux內(nèi)存管理

Linux 用的是四級頁表來管理內(nèi)存頁。

虛擬地址空間分布

在 Linux 操作系統(tǒng)中，虛擬地址空間的內(nèi)部又被分為內(nèi)核空間和用戶空間兩部分，不同位數(shù)的系統(tǒng)，地址空間的范圍也不同。比如最常見的 32 位和 64 位系統(tǒng)，如下所示：

通過這里可以看出：

32 位系統(tǒng)的內(nèi)核空間占用 1G，位于最高處，剩下的 3G 是用戶空間；

64 位系統(tǒng)的內(nèi)核空間和用戶空間都是 128T，分別占據(jù)整個(gè)內(nèi)存空間的最高和最低處，剩下的中間部分是未定義的。

再來說說，內(nèi)核空間與用戶空間的區(qū)別：

• 進(jìn)程在用戶態(tài)時(shí)，只能訪問用戶空間內(nèi)存；
• 只有進(jìn)入內(nèi)核態(tài)后，才可以訪問內(nèi)核空間的內(nèi)存；

雖然每個(gè)進(jìn)程都各自有獨(dú)立的虛擬內(nèi)存，但是每個(gè)虛擬內(nèi)存中的內(nèi)核地址，其實(shí)關(guān)聯(lián)的都是相同的物理內(nèi)存。這樣，進(jìn)程切換到內(nèi)核態(tài)后，就可以很方便地訪問內(nèi)核空間內(nèi)存。

用戶空間分布的情況，以 32 位系統(tǒng)為例，下圖來表示它們的關(guān)系：

通過這張圖你可以看到，用戶空間內(nèi)存，從低到高分別是 7 種不同的內(nèi)存段：

• 程序文件段，包括二進(jìn)制可執(zhí)行代碼；
• 已初始化數(shù)據(jù)段，包括靜態(tài)常量；
• 未初始化數(shù)據(jù)段，包括未初始化的靜態(tài)變量；
• 堆段，包括動(dòng)態(tài)分配的內(nèi)存，從低地址開始向上增長；
• 文件映射段，包括動(dòng)態(tài)庫、共享內(nèi)存等，從低地址開始向上增長（跟硬件和內(nèi)核版本有關(guān)）
• 棧段，包括局部變量和函數(shù)調(diào)用的上下文等。棧的大小是固定的，一般是 8 MB。當(dāng)然系統(tǒng)也提供了參數(shù)，以便我們自定義大?。?/li>

在這 7 個(gè)內(nèi)存段中，堆和文件映射段的內(nèi)存是動(dòng)態(tài)分配的。比如說，使用 C 標(biāo)準(zhǔn)庫的 malloc() 或者 mmap() ，就可以分別在堆和文件映射段動(dòng)態(tài)分配內(nèi)存。

總結(jié)

為了在多進(jìn)程環(huán)境下，使得進(jìn)程之間的內(nèi)存地址不受影響，相互隔離，于是操作系統(tǒng)就為每個(gè)進(jìn)程獨(dú)立分配一套的虛擬地址空間，每個(gè)程序只關(guān)心自己的虛擬地址就可以，實(shí)際上大家的虛擬地址都是一樣的，但分布到物理地址內(nèi)存是不一樣的。作為程序，也不用關(guān)心物理地址的事情。

每個(gè)進(jìn)程都有自己的虛擬空間，而物理內(nèi)存只有一個(gè)，所以當(dāng)啟用了大量的進(jìn)程，物理內(nèi)存必然會很緊張，于是操作系統(tǒng)會通過內(nèi)存交換技術(shù)，把不常使用的內(nèi)存暫時(shí)存放到硬盤（換出），在需要的時(shí)候再裝載回物理內(nèi)存（換入）。

那既然有了虛擬地址空間，那必然要把虛擬地址「映射」到物理地址，這個(gè)事情通常由操作系統(tǒng)來維護(hù)。

那么對于虛擬地址與物理地址的映射關(guān)系，可以有分段和分頁的方式，同時(shí)兩者結(jié)合都是可以的。

內(nèi)存分段是根據(jù)程序的邏輯角度，分成了棧段、堆段、數(shù)據(jù)段、代碼段等，這樣可以分離出不同屬性的段，同時(shí)是一塊連續(xù)的空間。但是每個(gè)段的大小都不是統(tǒng)一的，這就會導(dǎo)致內(nèi)存碎片和內(nèi)存交換效率低的問題。

于是，就出現(xiàn)了內(nèi)存分頁，把虛擬空間和物理空間分成大小固定的頁，如在 Linux 系統(tǒng)中，每一頁的大小為 4KB。由于分了頁后，就不會產(chǎn)生細(xì)小的內(nèi)存碎片。

同時(shí)在內(nèi)存交換的時(shí)候，寫入硬盤也就一個(gè)頁或幾個(gè)頁，這就大大提高了內(nèi)存交換的效率。

再來，為了解決簡單分頁產(chǎn)生的頁表過大的問題，就有了多級頁表，它解決了空間上的問題，但這就會導(dǎo)致 CPU 在尋址的過程中，需要有很多層表參與，加大了時(shí)間上的開銷。

于是根據(jù)程序的局部性原理，在 CPU 芯片中加入了 TLB，負(fù)責(zé)緩存最近常被訪問的頁表項(xiàng)，大大提高了地址的轉(zhuǎn)換速度。

Linux 系統(tǒng)主要采用了分頁管理，但是由于 Intel 處理器的發(fā)展史，Linux 系統(tǒng)無法避免分段管理。于是 Linux 就把所有段的基地址設(shè)為 0，也就意味著所有程序的地址空間都是線性地址空間（虛擬地址），相當(dāng)于屏蔽了 CPU 邏輯地址的概念，所以段只被用于訪問控制和內(nèi)存保護(hù)。

另外，Linxu 系統(tǒng)中虛擬空間分布可分為用戶態(tài)和內(nèi)核態(tài)兩部分，其中用戶態(tài)的分布：代碼段、全局變量、BSS、函數(shù)棧、堆內(nèi)存、映射區(qū)。