Linux內核頁緩存實現(xiàn)簡介

1. 緩存簡介

在編程中,緩存是很常見也很有效的一種提高程序性能的機制。

linux內核也不例外,為了提高I/O性能,也引入了緩存機制,即將一部分磁盤上的數(shù)據(jù)緩存到內存中。

1.1 原理

之所以通過緩存能提高I/O性能是基于以下2個重要的原理:

CPU訪問內存的速度遠遠大于訪問磁盤的速度(訪問速度差距不是一般的大,差好幾個數(shù)量級)

數(shù)據(jù)一旦被訪問,就有可能在短期內再次被訪問(臨時局部原理)

1.2 策略

緩存的創(chuàng)建和讀取沒什么好說的,無非就是檢查緩存是否存在要創(chuàng)建或者要讀取的內容。

但是寫緩存和緩存回收就需要好好考慮了,這里面涉及到「緩存內容」和「磁盤內容」同步的問題。

1.2.1 「寫緩存」常見的有3種策略

不緩存(nowrite) :: 也就是不緩存寫操作,當對緩存中的數(shù)據(jù)進行寫操作時,直接寫入磁盤,同時使此數(shù)據(jù)的緩存失效

寫透緩存(write-through) :: 寫數(shù)據(jù)時同時更新磁盤和緩存

回寫(copy-write or write-behind) :: 寫數(shù)據(jù)時直接寫到緩存,由另外的進程(回寫進程)在合適的時候將數(shù)據(jù)同步到磁盤

3種策略的優(yōu)缺點如下:

1.2.2 「緩存回收」的策略

最近最少使用(LRU) :: 每個緩存數(shù)據(jù)都有個時間戳,保存最近被訪問的時間?;厥站彺鏁r首先回收時間戳較舊的數(shù)據(jù)。

雙鏈策略(LRU/2) :: 基于LRU的改善策略。具體參見下面的補充說明

補充說明(雙鏈策略):

雙鏈策略其實就是 LRU(Least Recently Used) 算法的改進版。

它通過2個鏈表(活躍鏈表和非活躍鏈表)來模擬LRU的過程,目的是為了提高頁面回收的性能。

頁面回收動作發(fā)生時,從非活躍鏈表的尾部開始回收頁面。

雙鏈策略的關鍵就是頁面如何在2個鏈表之間移動的。

雙鏈策略中,每個頁面都有2個標志位,分別為

PG_active - 標志頁面是否活躍,也就是表示此頁面是否要移動到活躍鏈表

PG_referenced - 表示頁面是否被進程訪問到

頁面移動的流程如下:

當頁面第一次被被訪問時,PG_active 置為1,加入到活動鏈表

當頁面再次被訪問時,PG_referenced 置為1,此時如果頁面在非活動鏈表,則將其移動到活動鏈表,并將PG_active置為1,PG_referenced 置為0

系統(tǒng)中 daemon 會定時掃描活動鏈表,定時將頁面的 PG_referenced 位置為0

系統(tǒng)中 daemon 定時檢查頁面的 PG_referenced,如果 PG_referenced=0,那么將此頁面的 PG_active 置為0,同時將頁面移動到非活動鏈表

2. 頁高速緩存

故名思義,頁高速緩存中緩存的最小單元就是內存頁。

但是此內存頁對應的數(shù)據(jù)不僅僅是文件系統(tǒng)的數(shù)據(jù),可以是任何基于頁的對象,包括各種類型的文件和內存映射。

2.1 簡介

頁高速緩存緩存的是具體的物理頁面,與前面章節(jié)中提到的虛擬內存空間(vm_area_struct)不同,假設有進程創(chuàng)建了多個 vm_area_struct 都指向同一個文件,

那么這個 vm_area_struct 對應的 頁高速緩存只有一份。

也就是磁盤上的文件緩存到內存后,它的虛擬內存地址可以有多個,但是物理內存地址卻只能有一個。

為了有效提高I/O性能,頁高速緩存要需要滿足以下條件:

能夠快速檢索需要的內存頁是否存在

能夠快速定位 臟頁面(也就是被寫過,但還沒有同步到磁盤上的數(shù)據(jù))

頁高速緩存被并發(fā)訪問時,盡量減少并發(fā)鎖帶來的性能損失

下面通過分析內核中的相應的結構體,來了解內核是如何提高 I/O性能的。

2.2 實現(xiàn)

實現(xiàn)頁高速緩存的最重要的結構體要算是 address_space ,在?<linux/fs.h>?中

struct address_space {

? ? struct inode? ? ? ? *host;? ? ? ? /* 擁有此 address_space 的inode對象 */

? ? struct radix_tree_root? ? page_tree;? ? /* 包含全部頁面的 radix 樹 */

? ? spinlock_t? ? ? ? tree_lock;? ? /* 保護 radix 樹的自旋鎖 */

? ? unsigned int? ? ? ? i_mmap_writable;/* VM_SHARED 計數(shù) */

? ? struct prio_tree_root? ? i_mmap;? ? ? ? /* 私有映射鏈表的樹 */

? ? struct list_head? ? i_mmap_nonlinear;/* VM_NONLINEAR 鏈表 */

? ? spinlock_t? ? ? ? i_mmap_lock;? ? /* 保護 i_map 的自旋鎖 */

? ? unsigned int? ? ? ? truncate_count;? ? /* 截斷計數(shù) */

? ? unsigned long? ? ? ? nrpages;? ? /* 總頁數(shù) */

? ? pgoff_t? ? ? ? ? ? writeback_index;/* 回寫的起始偏移 */

? ? const struct address_space_operations *a_ops;? ? /* address_space 的操作表 */

? ? unsigned long? ? ? ? flags;? ? ? ? /* gfp_mask 掩碼與錯誤標識 */

? ? struct backing_dev_info *backing_dev_info; /* 預讀信息 */

? ? spinlock_t? ? ? ? private_lock;? ? /* 私有 address_space 自旋鎖 */

? ? struct list_head? ? private_list;? ? /* 私有 address_space 鏈表 */

? ? struct address_space? ? *assoc_mapping;? ? /* 緩沖 */

? ? struct mutex? ? ? ? unmap_mutex;? ? /* 保護未映射頁的 mutux 鎖 */

} __attribute__((aligned(sizeof(long))));

補充說明:

inode - 如果 address_space 是由不帶inode的文件系統(tǒng)中的文件映射的話,此字段為 null

page_tree - 這個樹結構很重要,它保證了頁高速緩存中數(shù)據(jù)能被快速檢索到,臟頁面能夠快速定位。

i_mmap - 根據(jù) vm_area_struct,能夠快速的找到關聯(lián)的緩存文件(即 address_space),前面提到過, address_space 和 vm_area_struct 是 一對多的關系。

其他字段主要是提供各種鎖和輔助功能

此外,對于這里出現(xiàn)的一種新的數(shù)據(jù)結構 radix 樹,進行簡要的說明。

radix樹通過long型的位操作來查詢各個節(jié)點, 存儲效率高,并且可以快速查詢。

linux中 radix樹相關的內容參見:?include/linux/radix-tree.h?和?lib/radix-tree.c

下面根據(jù)我自己的理解,簡單的說明一下radix樹結構及原理。

2.2.1 首先是 radix樹節(jié)點的定義

/* 源碼參照 lib/radix-tree.c */

struct radix_tree_node {

? ? unsigned int? ? height;? ? ? ? /* radix樹的高度 */

? ? unsigned int? ? count;? ? ? /* 當前節(jié)點的子節(jié)點數(shù)目 */

? ? struct rcu_head? ? rcu_head;? /* RCU 回調函數(shù)鏈表 */

? ? void? ? ? ? *slots[RADIX_TREE_MAP_SIZE]; /* 節(jié)點中的slot數(shù)組 */

? ? unsigned long? ? tags[RADIX_TREE_MAX_TAGS][RADIX_TREE_TAG_LONGS]; /* slot標簽 */

};

弄清楚 radix_tree_node 中各個字段的含義,也就差不多知道 radix樹是怎么一回事了。

height 表示的整個 radix樹的高度(即葉子節(jié)點到樹根的高度), 不是當前節(jié)點到樹根的高度

count 這個比較好理解,表示當前節(jié)點的子節(jié)點個數(shù),葉子節(jié)點的 count=0

rcu_head RCU發(fā)生時觸發(fā)的回調函數(shù)鏈表

slots 每個slot對應一個子節(jié)點(葉子節(jié)點)

tags 標記子節(jié)點是否 dirty 或者 wirteback

2.2.2 每個葉子節(jié)點指向文件內相應偏移所對應的緩存頁

比如下圖表示 0x000000 至 0x11111111 的偏移范圍,樹的高度為4 (圖是網(wǎng)上找的,不是自己畫的)


2.2.3 radix tree 的葉子節(jié)點都對應一個二進制的整數(shù),不是字符串,所以進行比較的時候非常快

其實葉子節(jié)點的值就是地址空間的值(一般是long型)

3. 頁回寫

由于目前l(fā)inux內核中對于「寫緩存」采用的是第3種策略,所以回寫的時機就顯得非常重要,回寫太頻繁影響性能,回寫太少容易造成數(shù)據(jù)丟失。

3.1 簡介

linux 頁高速緩存中的回寫是由內核中的一個線程(flusher 線程)來完成的,flusher 線程在以下3種情況發(fā)生時,觸發(fā)回寫操作。

1. 當空閑內存低于一個閥值時

空閑內存不足時,需要釋放一部分緩存,由于只有不臟的頁面才能被釋放,所以要把臟頁面都回寫到磁盤,使其變成干凈的頁面。

2. 當臟頁在內存中駐留時間超過一個閥值時

確保臟頁面不會無限期的駐留在內存中,從而減少了數(shù)據(jù)丟失的風險。

3. 當用戶進程調用 sync() 和 fsync() 系統(tǒng)調用時

給用戶提供一種強制回寫的方法,應對回寫要求嚴格的場景。

頁回寫中涉及的一些閥值可以在?/proc/sys/vm?中找到

下表中列出的是與 pdflush(flusher 線程的一種實現(xiàn)) 相關的一些閥值

閥值描述

dirty_background_ratio占全部內存的百分比,當內存中的空閑頁達到這個比例時,pdflush線程開始回寫臟頁

dirty_expire_interval該數(shù)值以百分之一秒為單位,它描述超時多久的數(shù)據(jù)將被周期性執(zhí)行的pdflush線程寫出

dirty_ratio占全部內存的百分比,當一個進程產(chǎn)生的臟頁達到這個比例時,就開始被寫出

dirty_writeback_interval該數(shù)值以百分之一秒未單位,它描述pdflush線程的運行頻率

laptop_mode一個布爾值,用于控制膝上型計算機模式

3.2 實現(xiàn)

flusher線程的實現(xiàn)方法隨著內核的發(fā)展也在不斷的變化著。下面介紹幾種在內核發(fā)展中出現(xiàn)的比較典型的實現(xiàn)方法。

1. 膝上型計算機模式

這種模式的意圖是將硬盤轉動的機械行為最小化,允許硬盤盡可能長時間的停滯,以此延長電池供電時間。

該模式通過 /proc/sys/vm/laptop_mode 文件來設置。(0 - 關閉該模式 1 - 開啟該模式)

2. bdflush 和 kupdated (2.6版本前 flusher 線程的實現(xiàn)方法)

bdflush 內核線程在后臺運行,系統(tǒng)中只有一個 bdflush 線程,當內存消耗到特定閥值以下時,bdflush 線程被喚醒

kupdated 周期性的運行,寫回臟頁。

bdflush 存在的問題:

整個系統(tǒng)僅僅只有一個 bdflush 線程,當系統(tǒng)回寫任務較重時,bdflush 線程可能會阻塞在某個磁盤的I/O上,

導致其他磁盤的I/O回寫操作不能及時執(zhí)行。

3. pdflush (2.6版本引入)

pdflush 線程數(shù)目是動態(tài)的,取決于系統(tǒng)的I/O負載。它是面向系統(tǒng)中所有磁盤的全局任務的。

pdflush 存在的問題:

pdflush的數(shù)目是動態(tài)的,一定程度上緩解了 bdflush 的問題。但是由于 pdflush 是面向所有磁盤的,

所以有可能出現(xiàn)多個 pdflush 線程全部阻塞在某個擁塞的磁盤上,同樣導致其他磁盤的I/O回寫不能及時執(zhí)行。

4. flusher線程 (2.6.32版本后引入)

flusher線程改善了上面出現(xiàn)的問題:

首先,flusher 線程的數(shù)目不是唯一的,這就避免了 bdflush 線程的問題

其次,flusher 線程不是面向所有磁盤的,而是每個 flusher 線程對應一個磁盤,這就避免了 pdflush 線程的問題

【文章福利】小生推薦自己的Linux后臺/內核技術交流群【 318652197】整理了一些個人覺得比較好的學習書籍,視頻資料共享在群文件里面,有需要的自行添加哦!?。∏?00名進群領取,額外贈送一份價值699的內核資料包(含視頻、電子書、實戰(zhàn)項目及代碼)

資料免費領

學習直通車

?著作權歸作者所有,轉載或內容合作請聯(lián)系作者
【社區(qū)內容提示】社區(qū)部分內容疑似由AI輔助生成,瀏覽時請結合常識與多方信息審慎甄別。
平臺聲明:文章內容(如有圖片或視頻亦包括在內)由作者上傳并發(fā)布,文章內容僅代表作者本人觀點,簡書系信息發(fā)布平臺,僅提供信息存儲服務。

相關閱讀更多精彩內容

友情鏈接更多精彩內容