缓存

缓存的原则

缓存是一个大型系统中非常重要的一个组成部分。在硬件层面，大部分的计算机硬件都会用缓存来提高速度，比如 CPU 会有多级缓存、 RAID 卡也有读写缓存。在软件层面，我们用的数据库就是一个缓存设计非常好的例子，在 SQL 语句的优化、索引设计、磁盘读写的各个地方，都有缓存，建议大家在设计自己的缓存之前，先去了解下 MySQL 里面的各种缓存机制，感兴趣的可以去看下lua shared dict

我们看下面这段代码：

 function get_from_cache(key)    local cache_ngx = ngx.shared.my_cache    local value = cache_ngx:get(key)    return valueendfunction set_to_cache(key, value, exptime)    if not exptime then        exptime = 0    end    local cache_ngx = ngx.shared.my_cache    local succ, err, forcible = cache_ngx:set(key, value, exptime)    return succend

这里面用的就是 ngx shared dict cache 。你可能会奇怪， ngx.shared.my_cache 是从哪里冒出来的？没错，少贴了 nginx.conf 里面的修改：

lua_shared_dict my_cache 128 m;

如同它的名字一样，这个 cache 是 nginx 所有 worker 之间共享的，内部使用的 LRU 算法（最近经常使用）来判断缓存是否在内存占满时被清除。

使用 <a rel="nofollow" href="https://github.com/openresty/lua-resty-lrucache" "="">lua LRU cache

直接复制下春哥的示例代码：

local _M = {}-- alternatively: local lrucache = require "resty.lrucache.pureffi"local lrucache = require "resty.lrucache"-- we need to initialize the cache on the lua module level so that-- it can be shared by all the requests served by each nginx worker process:local c = lrucache.new(200)  -- allow up to 200 items in the cacheif not c then    return error("failed to create the cache: " .. (err or "unknown"))endfunction _M.go()    c:set("dog", 32)    c:set("cat", 56)    ngx.say("dog: ", c:get("dog"))    ngx.say("cat: ", c:get("cat"))    c:set("dog", { age = 10 }, 0.1)  -- expire in 0.1 sec    c:delete("dog")endreturn _M

可以看出来，这个 cache 是 worker 级别的，不会在 nginx wokers 之间共享。并且，它是预先分配好 key 的数量，而 shared dcit 需要自己用 key 和 value 的大小和数量，来估算需要把内存设置为多少。

如何选择？

在性能上，两个并没有什么差异，都是在 Nginx 的进程中获取到缓存，这都比从本机的 memcached 或者 Redis 里面获取，要快很多。

你需要考虑的，一个是 lua lru cache 提供的 API 比较少，现在只有 get 、 set 和 delete ，而 ngx shared dict 还可以 add 、 replace 、 incr 、 get_stale （在 key 过期时也可以返回之前的值）、 get_keys （获取所有 key ，虽然不推荐，但说不定你的业务需要呢）；第二个是内存的占用，由于 ngx shared dict 是 workers 之间共享的，所以在多 worker 的情况下，内存占用比较少。

来源:http://wiki.jikexueyuan.com/project/openresty-best-practice/cache.html