LRU缓存策略设计

一、什么是LRU缓存策略
LRU(Least Recently Used)近期最少使用算法。它的原理就是，缓存一定量的数据，当缓存数量超过设置的阈值时就删除一部分旧的数据。
那么我们怎样判定旧数据呢？？？根据局部性原理，距离当前最久没有被访问过的数据应该被淘汰。

二、LRU缓存策略实现原理
1、使用双向链表记录数据的被使用的时间
因为我们要删除最久没有被访问的数据，为了保证效率，我们在缓存中维护一个双向链表，该链表将缓存中的数据按照访问时间从新到旧排列起来。
当我们需要访问一个数据的时候，如果缓存中已经缓存了这个数据，那么我们就将该数据从缓存的双向链表中摘除，然后再重新放入到双向链表的表头。
如果缓存中没有我们需要的数据，那么我们可以在外部获得数据，然后将数据放入到缓存中，此过程中会将新数据插入到双向链表的表头。

2、使用hash表保证缓存中数据的访问速度
因为链表进行查找是O(n)，比较慢。因此为了提高效率，我们除了将数据维护在一个双向链表中，同时还将数据维护在一个hash表中，这时我们访问的效率就变成了O(1)。

3、原理如图:

首先明白，hash表和双向链表用的是同一个结点。双向链表按照访问时间将这些结点串起来，就是图中黑色的箭头。hash表按照key值将这些结点串起来，并且使用拉链法解决冲突，比如紫色的箭头。

4、向缓存中插入一个结点
首先到hash表中去找:
如果找到的话，再去双向链表中将这个结点移到双向链表的头部。
如果没找到的话，则将这个数据插入到双向链表的头部，同时也插入到hash表中。如果这时候缓存的数量已经超过阈值，则就将双向链表的最后一个结点从链表中移除(注意不是删除)，然后再将这个移除的结点，从hash表也移除，最后再删除这个结点。因为hash表和双向链表使用的是同一个结点，所以必须等到两边都移除后才能删除。

三、模拟实现LRU缓存
1、缓存的结点类型
//缓存链表、hash表的结点类型

template<typename K, typename T>struct cacheNode{       K key;       T data;       struct cacheNode<K, T> *hashListPrev;  //指向hash链表的前一个结点       struct cacheNode<K, T> *hashListNext;  //指向hash链表的后一个结点       struct cacheNode<K, T> *lruListPrev;   //指向缓存双向链表的前一个结点       struct cacheNode<K, T> *lruListNext;   //指向缓存双向链表的后一个结点       cacheNode(K k = K(), T d = T())              :key(k)              , data(d)              , hashListPrev(NULL)              , hashListNext(NULL)              , lruListPrev(NULL)              , lruListNext(NULL)       {}};

可以看到，缓存的结点中有四个指针，其中两个用来维护双向链表，另外两个维护hash链表。本质上来说LRU缓存就是一个复杂链表，我们通过这种数据结构来达到缓存的目的。

2、LRU类的设计
为了提高代码的复用性，我们将LRU设计成类模板。

template<typename K>struct isEqual                 //定义key值的比较方式，相等返回true{       bool operator()(const K left,const K right)       {              if (left == right)                     return true;              else                     return false;       }};//缓存类template<typename K, typename T,class Compare=isEqual<K> >class lruCache{       typedef cacheNode<K, T> Node;public:       lruCache(size_t capacity);       ~lruCache();       void lruCacheSet(K key, T data);  //向缓存中放入数据       bool lruCacheGet(K key，T& data);  //从缓存中得到数据private:       void RemoveFromList(Node* post);    //从双向链表中删除指定结点       cacheNode<K, T>* InsertToListHead(Node* node);  //向双向链表的表头插入数据       void UpdateLRUList(Node* node);       void DeleteList(Node* head);        //删除整个双向链表          int HashFunc(K key);           //获取hash值       cacheNode<K, T>* GetValueFromHashMap(K key);  //从hashmap中获取一个缓存单元       void InsertValueToHashMap(Node* node); //插入一个缓存单元到hashmap       void RemoveFromeHashMap(Node* node);  //从hashmap中删除一个缓存单元private:       size_t _capacity;     //缓存的容量       Node** _hashMap;      //hash数组，       Node* _lruListHead;    //指向缓存双向链表的头部       Node* _lruListTail;    //指向缓存双向链表的尾部       size_t _lruListSize;   //记录双向链表结点中的个数};

3、项目源码
LRU源码