缓存算法——LRU算法编码实现(Java版)

LRU算法(Last Recently Used),是缓存淘汰算法的其中一种,即最近最久未使用。

在操作系统的内存管理中,有一类很重要的算法就是内存页面置换算法(包括FIFO,LRU,LFU等几种常见页面置换算法)。

事实上,Cache算法和内存页面置换算法的核心思想是一样的:都是在给定一个限定大小的空间的前提下,设计一个原则如何来更新和访问其中的元素。

下面说一下LRU算法的核心思想,LRU算法的设计原则是:
如果一个数据在最近一段时间没有被访问到,那么在将来它被访问的可能性也很小。也就是说,当限定的空间已存满数据时,应当把最久没有被访问到的数据淘汰

这里提供两种使用Java的实现方式



使用LinkedHashMap

具体实现源码:

public class LRUCache<K, V> extends LinkedHashMap<K, V> {

    private final int CACHE_SIZE;


    /**
     * 构造器,构造缓存的大小,即最多能缓存多少参数
     *
     * 初始化的 initialCapacity 结果+1,是为了在cacheSize小于0.75时除的结果为0,但是这时候要有能存储的元素,所以+1
     * accessOrder:控制访问顺序。用于设置LinkedHashMap在调用 get() 之后的操作。如果设置为true,则每次调用get后会将该元素移动到末尾
     * removeEldestEntry:默认返回为false,在调用 afterNodeInsertion()的内部,调用该方法。也就是说,每次添加元素之后,检查并移除最后一个元素
     *
     *
     * @param cacheSize
     */
    public LRUCache(int cacheSize) {
        super((int) Math.ceil(cacheSize / 0.75)+1, 0.75F, true);
        CACHE_SIZE = cacheSize;
    }

    /**
     * 重写removeEldestEntry
     * 当map中的数据大于指定缓存大小的时候,就删除最老的数据
     * @param eldest
     * @return
     */
    @Override
    protected boolean removeEldestEntry(Map.Entry<K, V> eldest) {
        return size() > CACHE_SIZE;
    }
}

LinkedHashMap中关键方法的源码:

    // 添加Node之后的操作,可以看到调用了 removeEldestEntry,移除头部元素
    void afterNodeInsertion(boolean evict) { // possibly remove eldest
        LinkedHashMap.Entry<K,V> first;
        if (evict && (first = head) != null && removeEldestEntry(first)) {
            K key = first.key;
            removeNode(hash(key), key, null, false, true);
        }
    }

    // 访问Node之后的操作,可以看到,当设置了accessOrder以后,访问元素之后,会把该Node放到尾部
    void afterNodeAccess(Node<K,V> e) { // move node to last
        LinkedHashMap.Entry<K,V> last;
        if (accessOrder && (last = tail) != e) {
            LinkedHashMap.Entry<K,V> p =
                (LinkedHashMap.Entry<K,V>)e, b = p.before, a = p.after;
            p.after = null;
            if (b == null)
                head = a;
            else
                b.after = a;
            if (a != null)
                a.before = b;
            else
                last = b;
            if (last == null)
                head = p;
            else {
                p.before = last;
                last.after = p;
            }
            tail = p;
            ++modCount;
        }
    }

可以看到,LinkedHashMap事实上已经提供了内存置换的功能,我们利用了其中内置的功能并重写了部分方法后,实现了LRUCache。

需要注意两点
1、构造器中调用父方法的第三个参数 accessOrder(默认为false),通过源码注释可以知道,这个表示元素的访问模式。true为access-order,false为insertion-order
当accessOrder=true时,用于搭配方法 removeEldestEntry(Map.Entry<K, V> eldest) 使用。

2、受保护方法 removeEldestEntry(Map.Entry<K, V> eldest),用于判断是否移除最老一个元素。使得Cache可以在元素满之后移除最老的元素。



使用HashMap 编码实现LRUCache

具体实现源码:

public class LRUCacheCustom<K,V> {

    // 双链表
    static class CacheNode{
        CacheNode before;
        CacheNode after;
        Object key;
        Object val;
        public CacheNode(){}
    }

    /** 头节点 */
    private CacheNode head;
    /** 尾节点 */
    private CacheNode tail;

    /** 最大元素数 */
    private int maxCapacity;

    /** 用于存储节点数据 */
    private HashMap<K, CacheNode> caches;


    /** 初始化 */
    public LRUCacheCustom(int maxCapacity){
        this.maxCapacity = maxCapacity;
        caches = new HashMap<>(maxCapacity);
        head = new CacheNode();
        tail = new CacheNode();
        head.after = tail;
        tail.before = head;
    }


    public void put(K k, V v){
        CacheNode node = caches.get(k);
        if(node == null){
            node = new CacheNode();
            node.key = k;
        }

        node.val = v;
        moveToFirst(node);
        caches.put(k, node);

        if(caches.size() > maxCapacity){
            caches.remove(tail.before.key);
            removeLast();
        }
    }


    public V get(K k){
        CacheNode node = caches.get(k);
        if(node == null){
            return null;
        }
        Object val = node.val;
        moveToFirst(node);
        return (V) val;
    }


    public void removeLast(){
        CacheNode last = tail.before;
        CacheNode secondLast = tail.before.before;
        secondLast.after = tail;
        tail.before = secondLast;

        // 手动释放内存
        caches.remove(last.key);
        last = null;
    }

    public void moveToFirst(CacheNode node){
        // 先把原来node的前后连起来,如果前后不为null的话。(注意顺序不能错)
        CacheNode nodeBefore = node.before;
        if(node.after != null){
            node.after.before = nodeBefore;
        }
        if(nodeBefore != null ){
            nodeBefore.after = node.after;
        }

        // 然后把node放前面
        CacheNode tmp = head.after;
        head.after = node;
        node.before = head;
        tmp.before = node;
        node.after = tmp;
    }


    @Override
    public String toString() {
        return caches.toString();
    }

    public String getCache(){
        StringBuilder bu = new StringBuilder();
        CacheNode dummy = head;
        while(dummy.after != null){
            bu.append("{key=" + dummy.key);
            bu.append(", val=" + dummy.val);
            bu.append("\n -->");
            dummy = dummy.after;
        }
        return bu.toString();
    }
}

以上代码我已经自测通过
测试代码:

    @Test
    public void lruCacheTest(){
        LRUCacheCustom cacheCustom = new LRUCacheCustom(3);
        cacheCustom.put(1,"AAA");
        cacheCustom.put(2,"BBB");
        cacheCustom.put(3,"CCC");
        System.out.println(cacheCustom.getCache()); // 3 2 1

        cacheCustom.put(4,"DDD");
        System.out.println(cacheCustom.getCache()); // 4 3 2

        // get(2) 将2提升到顶部
        cacheCustom.get(2);
        System.out.println(cacheCustom.getCache()); // 2 4 3

        cacheCustom.put(5,"DDD");
        System.out.println(cacheCustom.getCache()); // 5 2 4
    }


参考:
LRU Cache

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 215,794评论 6 498
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,050评论 3 391
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 161,587评论 0 351
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,861评论 1 290
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,901评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,898评论 1 295
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,832评论 3 416
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,617评论 0 271
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,077评论 1 308
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,349评论 2 331
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,483评论 1 345
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,199评论 5 341
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,824评论 3 325
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,442评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,632评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,474评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,393评论 2 352

推荐阅读更多精彩内容