Redis 数据持久化

来源:互联网 发布:mac邮件设置qq邮箱 编辑:程序博客网 时间:2024/05/17 04:01
redis 是一个支持持久化的内存数据库,也就是说 redis 需要经常将内存中的数据同步到磁盘来保证持久化。redis 支持两种持久化方式,一种是 Snapshotting(快照)也是默认方式,另一种是 Append-only file(缩写aof)的方式。

RDB文件创建:

    SAVE: 阻塞redis服务器进程,直到RDB文件创建完毕为止,在服务器进程阻塞期间,服务器不能处理任何命令请求。

    BGSAVE:派生出一个子进程,由子进程负责创建RDB文件,服务器进程(父进程)继续处理命令请求。

RDB文件载入:

    RDB文件的载入是服务器启动时自动执行,只要启动时检测到RDB文件的存在并且AOF持久化功能处于关闭状态(AOF文件更新频率高),会自动载入,无命令载入方法。且在载入期间,服务器一直处于阻塞状态,直到载入完成。

保存方法: (间隔性保存)

    快照是默认的持久化方式。这种方式是就是将内存中数据以快照的方式写入到二进制文件中,默认的文件名为 dump.rdb。Redis的服务器周期性操作serverCron函数,默认每隔100毫秒执行一次,这个函数工作之一就是检查save选项设置的保存条件是否满足,满足就执行BGSAVE命令。可以通过配置设置自动做快照持久化的方式。我们可以配置 redis在 n 秒内如果超过 m 个 key 被修改就自动做快照,下面是默认的快照保存配置.

    save 900 1 #900 秒内如果超过 1 个 key 被修改,则发起快照保存    save 300 10    save 60 10000
struct redisServer {    ...    struct saveparam *saveparams;   /* Save points array for RDB */    // 自从上次 SAVE 执行以来,数据库被修改的次数    long long dirty;                /* Changes to DB from the last save */    // 最后一次完成 SAVE 的时间    time_t lastsave;                /* Unix time of last successful save */}// 服务器的保存条件(BGSAVE 自动执行的条件)struct saveparam {    // 多少秒之内    time_t seconds;    // 发生多少次修改    int changes;};

运作方式:(写时复制(copy-on-write)机制)

    1.Redis 调用 fork() ,同时拥有父进程和子进程。
    2.子进程将数据集写入到一个临时 RDB 文件中。
    3.当子进程完成对新 RDB 文件的写入时,Redis 用新 RDB 文件替换原来的 RDB 文件,并删除旧的 RDB 文件。

优点:

    1.RDB 是一个非常紧凑(compact)的文件,它保存了 Redis 在某个时间点上的数据集。 这种文件非常适合用于进行备份: 比如说,你可以在最近的 24小时内,每小时备份一次RDB文件,并且在每个月的每一天,也备份一个RDB文件。这样的话,即使遇上问题,也可以随时将数据集还原到不同的版本。
    2.RDB 非常适用于灾难恢复(disaster recovery):它只有一个文件,并且内容都非常紧凑,可以(在加密后)将它传送到别的数据中心。
    3.RDB 可以最大化 Redis的性能:父进程在保存RDB文件时唯一要做的就是fork出一个子进程,然后这个子进程就会处理接下来的所有保存工作,父进程无须执行任何磁盘 I/O 操作。
    4.RDB 在恢复大数据集时的速度比 AOF 的恢复速度要快。

缺点:

    1.如果你需要尽量避免在服务器故障时丢失数据,那么 RDB 不适合你。 虽然 Redis 允许你设置不同的保存点(save point)来控制保存 RDB 文件的频率, 但是, 因为RDB 文件需要保存整个数据集的状态, 所以它并不是一个轻松的操作。 因此你可能会至少 5 分钟才保存一次 RDB 文件。 在这种情况下, 一旦发生故障停机, 你就可能会丢失好几分钟的数据。
    2.每次保存 RDB 的时候,Redis 都要 fork() 出一个子进程,并由子进程来进行实际的持久化工作。 在数据集比较庞大时, fork() 可能会非常耗时,造成服务器在某某毫秒内停止处理客户端;如果数据集非常巨大,并且CPU时间非常紧张的话,那么这种停止时间甚至可能会长达整整一秒。

AOF文件的载入:


        另外由于快照方式是在一定间隔时间做一次的,所以如果 redis 意外 down掉的话就会丢失最后一次快照后的所有修改。如果应用要求不能丢失任何修改的话,可以采用 aof 持久化方式。下面介绍 Append-only file:aof 比快照方式有更好的持久化性,是由于在使用 aof 持久化方式时,redis 会将每一个收到的写命令都通过 write 函数追加到文件中(默认是 appendonly.aof)。当redis重启时会通过重新执行文件中保存的写命令来在内存中重建整个数据库的内容。当然由于 os 会在内核中缓存 write 做的修改,所以可能不是立即写到磁盘上。这样 aof 方式的持久化也还是有可能会丢失部分修改。不过我们可以通过配置文件告诉 redis 我们想要通过 fsync 函数强制 os 写入到磁盘的时机。有三种方式如下(默认是:每秒 fsync 一次)
    appendonly yes       //启用 aof 持久化方式    # appendfsync always //收到写命令就立即写入磁盘,最慢,但是保证完全的持久化    # appendfsync everysec //每秒钟写入磁盘一次,在性能和持久化方面做了很好的折中    # appendfsync no     //完全依赖 os,性能最好,持久化没保证
<pre name="code" class="plain">struct redisServer {    ...    // AOF 缓冲区    sds aof_buf;      /* AOF buffer, written before entering the event loop */}

运作机制:

    1.Redis 执行 fork() ,现在同时拥有父进程和子进程。
    2.子进程开始将新 AOF 文件的内容写入到临时文件。
    3.对于所有新执行的写入命令,父进程一边将它们累积到一个内存缓存中,一边将这些改动追加到现有AOF文件的末尾:这样即使在重写的中途发生停机,现有的 AOF 文件也还是安全的。
    4.当子进程完成重写工作时,它给父进程发送一个信号,父进程在接收到信号之后,将内存缓存中的所有数据追加到新 AOF 文件的末尾。
    5.现在 Redis 原子地用新文件替换旧文件,之后所有命令都会直接追加到新 AOF 文件的末尾。

优点:

    1.使用 AOF 持久化会让 Redis 变得非常耐久(much more durable)。
    2.AOF 文件是一个只进行追加操作的日志文件(append onlylog),因此对AOF文件的写入不需要进行seek,即使日志因为某些原因而包含了未写入完整的命令(比如写入时磁盘已满,写入中途停机,等等), redis-check-aof 工具也可以轻易地修复这种问题。
    3.Redis 可以在 AOF 文件体积变得过大时,自动地在后台对 AOF 进行重写(参考链接3Redis-AOF文件重写): 重写后的新 AOF 文件包含了恢复当前数据集所需的最小命令集合。 整个重写操作是绝对安全的,因为 Redis 在创建新 AOF文件的过程中,会继续将命令追加到现有的AOF文件里面,即使重写过程中发生停机,现有的 AOF 文件也不会丢失。 而一旦新 AOF 文件创建完毕,Redis 就会从旧 AOF 文件切换到新 AOF 文件,并开始对新 AOF 文件进行追加操作。
    4.AOF 文件有序地保存了对数据库执行的所有写入操作, 这些写入操作以 Redis 协议的格式保存, 因此 AOF 文件的内容非常容易被人读懂, 对文件进行分析(parse)也很轻松。 导出(export) AOF 文件也非常简单: 举个例子, 如果你不小心执行了 FLUSHALL 命令, 但只要 AOF 文件未被重写, 那么只要停止服务器, 移除 AOF 文件末尾的 FLUSHALL 命令, 并重启 Redis , 就可以将数据集恢复到 FLUSHALL 执行之前的状态。

缺点:

    1.AOF 文件的体积通常要大于 RDB 文件的体积
    2.根据所使用的 fsync 策略,AOF 的速度可能会慢于 RDB 。



Redis命令参考>>持久化

Redis命令参考>>RDB文件结构

Redis>>AOF文件重写

推荐阅读:《Redis设计与实现》

0 0