Redis(秒杀活动、持久化之RDB、AOF)

目录

秒杀活动

一、测压工具jmete的使用

二、java实现秒杀活动

1、myseckillcontroller

2、先启动pos请求添加商品,再启动jmeter进行压测

 Redis持久化

一 、Redis持久化之RDB

1.RDB是什么

2. 备份是如何执行的

3.Fork

4. RDB持久化流程

 5. dump.rdb文件

6. 配置位置

7. 如何触发RDB快照;保持策略

(1) 配置文件中默认的快照配置时间间隔

(2) 命令save bgsave

(3)flushall命令

(4) SNAPSHOTTING快照

(5) Save

(6) stop-writes-on-bgsave-error

(7)rdbcompression 压缩文件

(8)rdbchecksum 检查数据的完整性

(9)rdb的备份

(10)优势

(11)劣势

Redis持久化之AOF(Append Only File)

1.AOF是什么

2.AOF持久化流程

3.AOF默认不开启 

4.AOF和RDB同时开启,redis听谁的?

5. AOF启动/修复/恢复

6. AOF同步频率设置

7. Rewrite压缩

2重写原理,如何实现重写


秒杀活动

一、测压工具jmete的使用

下载jmeter

https://jmeter.apache.org/download_jmeter.cgi

使用bin目录下的jmeter.bat打开

添加线程

发送对应的请求

二、java实现秒杀活动

1、myseckillcontroller

@RestController
@RequestMapping("seckill")
public class MySecKillController {

    private String key="pro:1";
     
    //添加商品
    @PostMapping
    public void begin(String val){
        Jedis jedis  = new Jedis("192.168.195.33",6379);
        jedis.auth("root");
        jedis.set(key,val);
    }


    @GetMapping
    public  void seckill(){
        Jedis jedis  = new Jedis("192.168.195.33",6379);
        jedis.auth("root");

        //.获取对应的商品的数量
        String s = jedis.get(key);
        //如果数量的值为nutT 为0 秒杀活动还没有开始 已经结束
        //isBlank判断s是否为null
        if(StringUtils.isBlank(s)){
            System.out.println("活动未开始");
        }else {

            //监听事务
            jedis.watch(key);
            //将s转换成int类型
            int i = Integer.parseInt(s);
            if (i>0){
                //组装事务
                Transaction multi = jedis.multi();
                //减少商品数量
                multi.decr(key);
                multi.sadd("userList", UUID.randomUUID().toString());
                //exec
                List<Object> exec = multi.exec();
                if (exec.size()==0||exec==null){
                    System.out.println("秒杀失败!");
                }else {
                    System.out.println("秒杀成功!!");

                }
            }else {
                System.out.println("秒杀活动结束啦!!");
            }
        }
    }
}

使用multi.sadd("userList", UUID.randomUUID().toString())方法将一个随机生成的用户ID添加到用户列表中。

使用multi.exec()方法执行事务,并返回一个包含事务执行结果的列表。

2、先启动pos请求添加商品,再启动jmeter进行压测

压测没问题就显示用户购买的集合

 Redis持久化

一 、Redis持久化之RDB

1.RDB是什么

在指定的时间间隔内将内存中的数据集快照写入磁盘, 也就是行话讲的Snapshot快照,它恢复时是将快照文件直接读到内存里

2. 备份是如何执行的

Redis会单独创建(fork)一个子进程来进行持久化,会先将数据写入到 一个临时文件中,待持久化过程都结束了,再用这个临时文件替换上次持久化好的文件。 整个过程中,主进程是不进行任何IO操作的,这就确保了极高的性能 如果需要进行大规模数据的恢复,且对于数据恢复的完整性不是非常敏感,那RDB方式要比AOF方式更加的高效。RDB的缺点是最后一次持久化后的数据可能丢失

3.Fork

Fork的作用是复制一个与当前进程一样的进程。新进程的所有数据(变量、环境变量、程序计数器等) 数值都和原进程一致,但是是一个全新的进程,并作为原进程的子进程

在Linux程序中,fork()会产生一个和父进程完全相同的子进程,但子进程在此后多会exec系统调用,出于效率考虑,Linux中引入了“写时复制技术

一般情况父进程和子进程会共用同一段物理内存,只有进程空间的各段的内容要发生变化时,才会将父进程的内容复制一份给子进程。

4. RDB持久化流程

 5. dump.rdb文件

redis.conf中配置文件名称,默认为dump.rdb

6. 配置位置

rdb文件的保存路径,也可以修改。默认为Redis启动时命令行所在的目录下,也就是相对当前

redis.conf:

dir "/myredis/"

7. 如何触发RDB快照;保持策略

(1) 配置文件中默认的快照配置时间间隔

after 900 sec (15 min) if at least 1 key changed代表15分钟之内如果有一个key方式改变就触发对应的保存策略

 after 300 sec (5 min) if at least 10 keys changed

5分钟之内如果有10个key方式改变就触发对应的保存策略,如果有15个key,当只保存10的情况下出现宕机,另外5个key存储在内存里就会遗失
 after 60 sec if at least 10000 keys changed        类同上

(2) 命令save bgsave

save :save时只管保存,其它不管,全部阻塞。手动保存。不建议。

bgsave:Redis会在后台异步进行快照操作,快照同时还可以响应客户端请求。(默认开启)

可以通过lastsave 命令获取最后一次成功执行快照的时间

(3)flushall命令

flushall清空所有的数据库

执行flushall命令,也会产生dump.rdb文件,但里面是空的,无意义

(4) SNAPSHOTTING快照
(5) Save

格式:save 秒 写操作次数

RDB是整个内存的压缩过的Snapshot,RDB的数据结构,可以配置复合的快照触发条件,

默认是1分钟内改了1万次,或5分钟内改了10次,或15分钟内改了1次。

禁用

不设置save指令,或者给save传入空字符串

(6) stop-writes-on-bgsave-error

当Redis无法写入磁盘的话(磁盘已满),直接关掉Redis的写操作。推荐yes.

redis出现错误的时候就会停止编写

(7)rdbcompression 压缩文件

去除一些不必要的命令(例如两个set添加,就会把两个set转换为mset)

对于存储到磁盘中的快照,可以设置是否进行压缩存储。如果是的话,redis会进行压缩。

如果你不想消耗CPU来进行压缩的话,可以设置为关闭此功能。推荐yes.

(8)rdbchecksum 检查数据的完整性

在存储快照后,还可以让redis来进行数据校验,如果数据已经损坏就不需要再进行持久化的操作,这样做会增加大约10%的性能消耗,如果希望获取到最大的性能提升,可以关闭此功能

(9)rdb的备份

先查询rdb文件的目录

将*.rdb的文件拷贝到别的地方

rdb的恢复

关闭Redis

先把备份的文件拷贝到工作目录下 cp dump2.rdb dump.rdb

启动Redis, 备份数据会直接加载

(10)优势

适合大规模的数据恢复

对数据完整性和一致性要求不高更适合使用

节省磁盘空间

恢复速度快

(11)劣势

Fork的时候,内存中的数据被克隆了一份,大致2倍的膨胀性需要考虑

虽然Redis在fork时使用了写时拷贝技术,但是如果数据庞大时还是比较消耗性能。

在备份周期在一定间隔时间做一次备份,所以如果Redis意外down掉的话,就会丢失最后一次快照后的所有修改。

Redis持久化之AOF(Append Only File)

1.AOF是什么

日志的形式来记录每个写操作(增量保存),将Redis执行过的所有写指令记录下来(读操作不记录), 只许追加文件但不可以改写文件,redis启动之初会读取该文件重新构建数据,换言之,redis 重启的话就根据日志文件的内容将写指令从前到后执行一次以完成数据的恢复工作

2.AOF持久化流程

(1)客户端的请求写命令会被append追加到AOF缓冲区内;

(2)AOF缓冲区根据AOF持久化策略[always,everysec,no]将操作sync同步到磁盘的AOF文件中;

(3)AOF文件大小超过重写策略或手动重写时,会对AOF文件rewrite重写,压缩AOF文件容量;

(4)Redis服务重启时,会重新load加载AOF文件中的写操作达到数据恢复的目的;

3.AOF默认不开启 

需要开启no改成yes

   

可以在redis.conf中配置文件名称,默认为 appendonly.aof

AOF文件的保存路径,同RDB的路径一致。

4.AOF和RDB同时开启,redis听谁的?

AOF和RDB同时开启,系统默认取AOF的数据(数据不会存在丢失)

5. AOF启动/修复/恢复

AOF的备份机制和性能虽然和RDB不同, 但是备份和恢复的操作同RDB一样,都是拷贝备份文件,需要恢复时再拷贝到Redis工作目录下,启动系统即加载。

正常恢复

修改默认的appendonly no,改为yes

将有数据的aof文件复制一份保存到对应目录

恢复:重启redis然后重新加载

异常恢复

修改默认的appendonly no,改为yes

如遇到AOF文件损坏,通过

/usr/redis/bin/redis-check-aof --fix 文件的位置/appendonly.aof进行恢复

备份被写坏的AOF文件

恢复:重启redis,然后重新加载

6. AOF同步频率设置

appendfsync always

始终同步,每次Redis的写入都会立刻记入日志;性能较差但数据完整性比较好

appendfsync everysec

每秒同步,每秒记入日志一次,如果宕机,本秒的数据可能丢失。

appendfsync no

redis不主动进行同步,把同步时机交给操作系统。

7. Rewrite压缩

(1)Rewrite是什么:

AOF采用文件追加方式,文件会越来越大为避免出现此种情况,新增了重写机制, 当AOF文件的大小超过所设定的阈值时,Redis就会启动AOF文件的内容压缩, 只保留可以恢复数据的最小指令集.可以使用命令bgrewriteaof

8.重写原理,如何实现重写

AOF文件持续增长而过大时,会fork出一条新进程来将文件重写(也是先写临时文件最后再rename),redis4.0版本后的重写,是指上就是把rdb 的快照,以二级制的形式附在新的aof头部,作为已有的历史数据,替换掉原来的流水账操作。

no-appendfsync-on-rewrite:

如果 no-appendfsync-on-rewrite=yes ,不写入aof文件只写入缓存,用户请求不会阻塞,但是在这段时间如果宕机会丢失这段时间的缓存数据。(降低数据安全性,提高性能)

如果 no-appendfsync-on-rewrite=no, 还是会把数据往磁盘里刷,但是遇到重写操作,可能会发生阻塞。(数据安全,但是性能降低)

触发机制,何时重写

Redis会记录上次重写时的AOF大小,默认配置是当AOF文件大小是上次rewrite后大小的一倍且文件大于64M时触发

重写虽然可以节约大量磁盘空间,减少恢复时间。但是每次重写还是有一定的负担的,因此设定Redis要满足一定条件才会进行重写。

auto-aof-rewrite-percentage:设置重写的基准值,文件达到100%时开始重写(文件是原来重写后文件的2倍时触发)

->40m 80

auto-aof-rewrite-min-size:设置重写的基准值,最小文件64MB。达到这个值开始重写。

例如:文件达到70MB开始重写,降到50MB,下次什么时候开始重写?100MB

系统载入时或者上次重写完毕时,Redis会记录此时AOF大小,设为base_size,

如果Redis的AOF当前大小>= base_size +base_size*100% (默认)且当前大小>=64mb(默认)的情况下,Redis会对AOF进行重写。

9.重写流程(背)

(1)bgrewriteaof触发重写,判断是否当前有bgsave或bgrewriteaof在运行,如果有,则等待该命令结束后再继续执行。

(2)主进程fork出子进程执行重写操作,保证主进程不会阻塞。

(3)子进程遍历redis内存中数据到临时文件,客户端的写请求同时写入aof_buf缓冲区和aof_rewrite_buf重写缓冲区保证原AOF文件完整以及新AOF文件生成期间的新的数据修改动作不会丢失。

(4)1).子进程写完新的AOF文件后,向主进程发信号,父进程更新统计信息。2).主进程把aof_rewrite_buf中的数据写入到新的AOF文件。

(5)使用新的AOF文件覆盖旧的AOF文件,完成AOF重写。

 

10. 优势

save 时间 数据量

备份机制更稳健,丢失数据概率更低。

可读的日志文本,通过操作AOF稳健,可以处理误操作。

11. 劣势

  • 比起RDB占用更多的磁盘空间。
  • 恢复备份速度要慢。
  • 每次读写都同步的话,有一定的性能压力。
  • 存在个别Bug,造成恢复不能。

12 .用哪个好

官方推荐两个都启用。

如果对数据不敏感,可以选单独用RDB。

不建议单独用 AOF,因为可能会出现Bug。

如果只是做纯内存缓存,可以都不用。

13.官方建议

  • RDB持久化方式能够在指定的时间间隔能对你的数据进行快照存储
  • AOF持久化方式记录每次对服务器写的操作,当服务器重启的时候会重新执行这些命令来恢复原始的数据,AOF命令以redis协议追加保存每次写的操作到文件末尾.
  • Redis还能对AOF文件进行后台重写,使得AOF文件的体积不至于过大

只做缓存:如果你只希望你的数据在服务器运行的时候存在,你也可以不使用任何持久化方式.

同时开启两种持久化方式

  • 在这种情况下,当redis重启的时候会优先载入AOF文件来恢复原始的数据, 因为在通常情况下AOF文件保存的数据集要比RDB文件保存的数据集要完整.
  • RDB的数据不实时,同时使用两者时服务器重启也只会找AOF文件。那要不要只使用AOF呢?
  • 建议不要,因为RDB更适合用于备份数据库(AOF在不断变化不好备份), 快速重启,而且不会有AOF可能潜在的bug,留着作为一个万一的手段。
  • 性能建议

因为RDB文件只用作后备用途,建议只在Slave上持久化RDB文件,而且只要15分钟备份一次就够了,只保留save 900 1这条规则。

如果使用AOF,好处是在最恶劣情况下也只会丢失不超过两秒数据,启动脚本较简单只load自己的AOF文件就可以了。

代价,一是带来了持续的IO,二是AOF rewrite的最后将rewrite过程中产生的新数据写到新文件造成的阻塞几乎是不可避免的。

只要硬盘许可,应该尽量减少AOF rewrite的频率,AOF重写的基础大小默认值64M太小了,可以设到5G以上。

默认超过原大小100%大小时重写可以改到适当的数值。

相关推荐

  1. Redis实现

    2024-01-25 16:18:01       45 阅读
  2. redis(PHP版本)

    2024-01-25 16:18:01       33 阅读
  3. SpringBoot 整合 Redis 实现

    2024-01-25 16:18:01       51 阅读
  4. 的时候怎么使用Redis

    2024-01-25 16:18:01       40 阅读

最近更新

  1. docker php8.1+nginx base 镜像 dockerfile 配置

    2024-01-25 16:18:01       98 阅读
  2. Could not load dynamic library ‘cudart64_100.dll‘

    2024-01-25 16:18:01       106 阅读
  3. 在Django里面运行非项目文件

    2024-01-25 16:18:01       87 阅读
  4. Python语言-面向对象

    2024-01-25 16:18:01       96 阅读

热门阅读

  1. 重学webpack

    2024-01-25 16:18:01       47 阅读
  2. 数据结构——链式栈

    2024-01-25 16:18:01       59 阅读
  3. [力扣 Hot100]Day13 最大子数组和

    2024-01-25 16:18:01       60 阅读
  4. redis 分布式锁的原理

    2024-01-25 16:18:01       53 阅读
  5. uniapp使用uQRCode插件生成二维码的简单使用

    2024-01-25 16:18:01       56 阅读