LRU缓存就像你的鞋柜,附实现攻略
问题
今天我们讲一下怎么实现一个简单的最近最少使用(LRU)的缓存。
概念
LRU
是Least Recently Used
的缩写,意为“最近最少使用”。
LRU缓存简单的说就是缓存一定量的数据,当超过设定的阈值时就把一些过期的数据删除掉。
举个生活中的例子,你有一堆鞋子,肯定是最新买的最喜欢穿的放在身边,鞋柜满了的话,如果你不是壕,扔鞋子也会先扔破鞋。
如图,把格子想想成你的鞋柜。一个格子只能放一双鞋子哦。
- 新数据插入到链表头部;(新鞋子放在最外边)
- 每当缓存命中(即缓存数据被访问),则将数据移到链表头部;(刚穿过的鞋子放在最外面)
- 当链表满的时候,将链表尾部的数据丢弃。(鞋柜满了,就需要忍痛扔破鞋)
当存在热点数据时,LRU
的效率很好,但偶发性的、周期性的批量操作会导致LRU
命中率急剧下降,缓存污染情况比较严重。
实现
Java里面实现LRU缓存通常有多种选择,一种是使用LinkedHashMap
,一种是自己设计数据结构,使用链表+HashMap,灵活度更高的可以自定义使用方式。
搞Java的同学真是幸福,因为LinkedHashMap
就是一个天生的LRU。
先来看一下LinkedHashMap
的构造方法。
public LinkedHashMap(int initialCapacity, float loadFactor, boolean accessOrder) { super(initialCapacity, loadFactor); this.accessOrder = accessOrder; }
- 注意
accessOrder
这个参数,为true
使用访问顺序排序,false使用插入顺序排序。使用访问顺序排序,就是LRU。 - 当需要添加元素时,会调用
removeEldestEntry
方法,这里就是实现LRU
元素过期机制的地方,默认的情况下removeEldestEntry
方法只返回false表示元素永远不过期。
根据以上介绍,可以使用继承方式实现一个最简单的LRU.只需要覆盖removeEldestEntry
方法。
public static class LRULinkedHashMap<K, V> extends LinkedHashMap<K, V> { private static final int LRU_MAX_CAPACITY = 1024; public LRULinkedHashMap(int initialCapacity, float loadFactor) { super(initialCapacity, loadFactor, true); } /** * @see java.util.LinkedHashMap#removeEldestEntry(java.util.Map.Entry) */ @Override protected boolean removeEldestEntry(Entry<K, V> eldest) { if(size() > LRU_MAX_CAPACITY) { return true; } return false; } }
注意点
使用LRU
要注意以下几点:
- 缓存的数据是否真正有热点数据
- 缓存的大小一定要限制,否则会有内存撑爆的危险
- 老生常谈,高并发下一定要注意LRU操作的同步