一、什么是 LRU 算法
LRU就是一種緩存淘汰策略。
計算機的緩存容量有限,如果緩存滿了就要刪除一些內容,給新內容騰位置。但問題是,刪除哪些內容呢?我們肯定希望刪掉哪些沒什么用的緩存,而把有用的數(shù)據(jù)繼續(xù)留在緩存里,方便之后繼續(xù)使用。那么,什么樣的數(shù)據(jù),我們判定為「有用的」的數(shù)據(jù)呢?
LRU 緩存淘汰算法就是一種常用策略。LRU 的全稱是 Least Recently Used,也就是說我們認為最近使用過的數(shù)據(jù)應該是是「有用的」,很久都沒用過的數(shù)據(jù)應該是無用的,內存滿了就優(yōu)先刪那些很久沒用過的數(shù)據(jù)。
二、LRU 算法描述
LRU 算法實際上是讓你設計數(shù)據(jù)結構:首先要接收一個 capacity 參數(shù)作為緩存的最大容量,然后實現(xiàn)兩個 API,一個是 put(key, val) 方法存入鍵值對,另一個是 get(key) 方法獲取 key 對應的 val,如果 key 不存在則返回 -1。
注意哦,get 和 put 方法必須都是 的時間復雜度,我們舉個具體例子來看看 LRU 算法怎么工作。
/* 緩存容量為 2 */
LRUCache cache = new LRUCache(2);
// 你可以把 cache 理解成一個隊列
// 假設左邊是隊頭,右邊是隊尾
// 最近使用的排在隊頭,久未使用的排在隊尾
// 圓括號表示鍵值對 (key, val)
cache.put(1, 1);
// cache = [(1, 1)]
cache.put(2, 2);
// cache = [(2, 2), (1, 1)]
cache.get(1); // 返回 1
// cache = [(1, 1), (2, 2)]
// 解釋:因為最近訪問了鍵 1,所以提前至隊頭
// 返回鍵 1 對應的值 1
cache.put(3, 3);
// cache = [(3, 3), (1, 1)]
// 解釋:緩存容量已滿,需要刪除內容空出位置
// 優(yōu)先刪除久未使用的數(shù)據(jù),也就是隊尾的數(shù)據(jù)
// 然后把新的數(shù)據(jù)插入隊頭
cache.get(2); // 返回 -1 (未找到)
// cache = [(3, 3), (1, 1)]
// 解釋:cache 中不存在鍵為 2 的數(shù)據(jù)
cache.put(1, 4);
// cache = [(1, 4), (3, 3)]
// 解釋:鍵 1 已存在,把原始值 1 覆蓋為 4
// 不要忘了也要將鍵值對提前到隊頭
三、LRU 算法設計
分析上面的操作過程,要讓 put 和 get 方法的時間復雜度為 O(1),我們可以總結出 cache 這個數(shù)據(jù)結構必要的條件:查找快,插入快,刪除快,有順序之分。
因為顯然 cache 必須有順序之分,以區(qū)分最近使用的和久未使用的數(shù)據(jù);而且我們要在 cache 中查找鍵是否已存在;如果容量滿了要刪除最后一個數(shù)據(jù);每次訪問還要把數(shù)據(jù)插入到隊頭。
那么,什么數(shù)據(jù)結構同時符合上述條件呢?哈希表查找快,但是數(shù)據(jù)無固定順序;鏈表有順序之分,插入刪除快,但是查找慢。所以結合一下,形成一種新的數(shù)據(jù)結構:哈希鏈表。
LRU 緩存算法的核心數(shù)據(jù)結構就是哈希鏈表,雙向鏈表和哈希表的結合體。這個數(shù)據(jù)結構長這樣:

思想很簡單,就是借助哈希表賦予了鏈表快速查找的特性嘛:可以快速查找某個 key 是否存在緩存(鏈表)中,同時可以快速刪除、添加節(jié)點?;叵雱偛诺睦樱@種數(shù)據(jù)結構是不是完美解決了 LRU 緩存的需求?
也許讀者會問,為什么要是雙向鏈表,單鏈表行不行?另外,既然哈希表中已經(jīng)存了 key,為什么鏈表中還要存鍵值對呢,只存值不就行了?
想的時候都是問題,只有做的時候才有答案。這樣設計的原因,必須等我們親自實現(xiàn) LRU 算法之后才能理解,所以我們開始看代碼吧~
四、代碼實現(xiàn)
package LRU;
import java.util.HashMap;
import java.util.LinkedList;
/* Node節(jié)點數(shù)據(jù)結構 */
class Node{
public int key, val;
public Node next, prev;
Node(int k, int v){
this.key = k;
this.val = v;
}
}
/* 雙向鏈表數(shù)據(jù)結構====> 偷懶實現(xiàn) */
class DoubleList{
public LinkedList<Node> linkedList;
DoubleList(){
linkedList = new LinkedList<>();
}
// 在鏈表頭部添加節(jié)點 x,時間 O(1)
public void addFirst(Node x){
linkedList.addFirst(x);
}
// 刪除鏈表中的 x 節(jié)點(x 一定存在)
// 由于是雙鏈表且給的是目標 Node 節(jié)點,時間 O(1)
public void remove(Node x){
linkedList.remove(x);
}
// 刪除鏈表中最后一個節(jié)點,并返回該節(jié)點,時間 O(1)
public Node removeLast(){
return linkedList.removeFirst();
}
// 返回鏈表長度,時間 O(1)
public int size(){
return linkedList.size();
}
}
public class LRU{
private HashMap<Integer, Node> map;
private DoubleList cache;
private int capacity; // 容量
LRU(int capacity){
this.capacity = capacity;
map = new HashMap<>();
cache = new DoubleList();
}
// LRU的get方法:在OS頁面調度中,相當于使用了某頁
public int get(int key){
if(!map.containsKey(key)){ // 找不到該頁
return -1;
}
int val = map.get(key).val;
// 重新放入cache,相當于把該頁的位置提前
this.put(key, val);
return val;
}
public void put(int key, int val){
// create new Node
Node temp = new Node(key, val);
if(map.containsKey(key)){ //如果已經(jīng)存在了
cache.remove(map.get(key));
cache.addFirst(temp);
// 重點:別忘了更新hashtable
map.put(key, temp);
}
else{ // cache已滿,需要移除最后一個并加入當前
if(capacity == cache.size()){
/**
* 當緩存容量已滿,我們不僅僅要刪除最后一個 Node 節(jié)點,
* 還要把 map 中映射到該節(jié)點的 key 同時刪除,而這個 key 只能由 Node 得到。
* 如果 Node 結構中只存儲 val,那么我們就無法得知 key 是什么,就無法刪除 map 中的鍵,造成錯誤。
*/
Node last = cache.removeLast();
// 重點:勿忘更新hashtable
map.remove(last.key);
}
// 加入當前
cache.addFirst(temp);
// 更新cache
map.put(key, temp);
}
}
public static void main(String[] args) {
// 具體例子來看看 LRU 算法怎么工作
/* 緩存容量為 2 */
LRU cache = new LRU(2);
// 你可以把 cache 理解成一個隊列
// 假設左邊是隊頭,右邊是隊尾
// 最近使用的排在隊頭,久未使用的排在隊尾
// 圓括號表示鍵值對 (key, val)
cache.put(1, 1);
// cache = [(1, 1)]
cache.put(2, 2);
// cache = [(2, 2), (1, 1)]
cache.get(1); // 返回 1
// cache = [(1, 1), (2, 2)]
// 解釋:因為最近訪問了鍵 1,所以提前至隊頭
// 返回鍵 1 對應的值 1
cache.put(3, 3);
// cache = [(3, 3), (1, 1)]
// 解釋:緩存容量已滿,需要刪除內容空出位置
// 優(yōu)先刪除久未使用的數(shù)據(jù),也就是隊尾的數(shù)據(jù)
// 然后把新的數(shù)據(jù)插入隊頭
cache.get(2); // 返回 -1 (未找到)
// cache = [(3, 3), (1, 1)]
// 解釋:cache 中不存在鍵為 2 的數(shù)據(jù)
cache.put(1, 4);
// cache = [(1, 4), (3, 3)]
// 解釋:鍵 1 已存在,把原始值 1 覆蓋為 4
// 不要忘了也要將鍵值對提前到隊頭
}
}