[Java]-Redis面试题
开篇
redis常见的面试题
使用问题
Redis的使用场景
- 根据自己简历上的业务进行回答
- 主要场景1, 作为缓存中间件使用:
- 穿透、击穿、雪崩、双写一致、持久化、数据过期、淘汰策略
- 主要场景2, 作为分布式锁使用
- setnx、redisson
什么是缓存穿透,怎么解决
正常的缓存流程:
- 一个请求进入程序, 先查询redis, 如果redis中存在该数据, 返回数据
- 如果redis中不存在数据, 要查询数据库, 查到结构后返回数据并更新缓存
- 如果数据库也查不到数据, 就结束请求
- 如果有人用不存在的id一直请求, 就会导致请求直接穿透到数据库
缓存穿透
查询一个不存在的数据,mysql查询不到数据也不会直接写入缓存,就会导致每次请求都查数据库
解决方案1
缓存空数据,查询返回的数据为空,仍把这个空结果进行缓存
优点: 简单
缺点: 消耗内存,可能会发生数据不一致的问题
解决方案2
布隆过滤器
- 请求进入程序, 先经过布隆过滤器的判断, 数据存在查再走redis的判断
- 介绍布隆过滤器
- bitmap(位图): 相当于是一个以(bit)位为单位的数组,数组中每个单元只能存储二进制数0或1
- 布隆过滤器作用: 布隆过滤器可以用于检索一个元素是否在一个集合中。
- 布隆过滤器存在误判的可能性:
- 误判率: 数组越小误判率就越大,数组越大误判率就越小,但是同时带来了更多的内存消耗。
- 项目中一般可以接受这种误判性, 少量的误判相比大量的缓存穿透更优, 一般误判率控制在5%以内
- 优点: 内存占用较少,没有多余key
- 缺点: 实现复杂,存在误判
什么是缓存穿透? 怎么解决?
- 缓存穿透是指查询一个一定不存在的数据,如果从存储层查不到数据则不写入缓存,这将导致这个不存在的数据每次请求都要到 DB去查询,可能导致 DB挂掉。这种情况大概率是遭到了攻击。
- 解决方案的话,我们通常都会用布隆过滤器来解决它.
- 布隆过滤器主要是用于检索一个元素是否在一个集合中。我们当时使用的是redisson实现的布隆过滤器。
- 它的底层主要是先去初始化一个比较大数组,里面存放的二进制0或1。在一开始都是0,当一个key来了之后经过3次hash计算,模于数组长度找到数据的下标然后把数组中原来的0改为1,这样的话,三数组的位置就能标明一个key的存在。查找的过程也是一样的。
- 当然是有缺点的,布隆过滤器有可能会产生一定的误判,我们一般可以设置这个误判率,大概不会超过5%,其实这个误判是必然存在的,要不就得增加数组的长度,5%以内的误判率一般的项目也能接受,不至于高并发下压倒数据库。
什么是缓存击穿,怎么解决
缓存击穿
给某一个key设置了过期时间,当key过期的时候,恰好这时间点对这个key有大量的并发请求过来,这些并发的请求可能会瞬间把DB压垮
解决方案一: 互斥锁
特点: 强一致,性能差
解决方案二: 逻辑过期
特点: 高可用,性能优,不保证数据绝对一致
什么是缓存击穿? 怎么解决?
- 缓存击穿的意思是对于设置了过期时间的key,缓存在某个时间点过期的时候,恰好这时间点对这个Key有大量的并发请求过来,这些请求发现缓存过期一般都会从后端 DB加载数据并回设到缓存,这个时候大并发的请求可能会瞬间把 DB 压垮。
- 解决方案有两种方式:
- 第一可以使用互斥锁: 当缓存失效时,不立即去load db,先使用如 Redis 的 setnx 去设置一个互斥锁, 当操作成功返回时再进行load db的操作并回设缓存,否则重试get缓存的方法
- 第二种方案可以设置当前key逻辑过期,大概是思路如下:
- 在设置key的时候,设置一个过期时间字段一块存入缓存中,不给当前key设置过期时间
- 当查询的时候,从redis取出数据后判断时间是否过期
- 如果过期则开通另外一个线程进行数据同步,当前线程正常返回数据,这个数据不是最新
- 当然两种方案各有利弊:
- 如果选择数据的强一致性,建议使用分布式锁的方案,性能上可能没那么高,锁需要等,也有可能产生死锁的问题
- 如果选择key的逻辑删除,则优先考虑的高可用性,性能比较高,但是数据同步这块做不到强一致。
什么是缓存雪崩,怎么解决
缓存雪崩是指在同一时段大量的缓存key同时失效或者Redis服务宕机,导致大量请求到达数据库,带来巨大压力。
解决方案:
- 给不同的Key的TTL添加随机值
- 1-5分钟的随机值
- 利用Redis集群提高服务的可用性
- 哨兵模式、集群模式
- 给缓存业务添加降级限流策略
- ngxin或spring cloud gateway
- 降级可做为系统的保底策略,适用于穿透、击穿、雪崩
- 给业务添加多级缓存
- Guava或Caffeine
什么是缓存雪崩? 怎么解决?
- 缓存雪崩意思是设置缓存时采用了相同的过期时间,导致缓存在某一时刻同时失效,请求全部转发到DB,DB瞬时压力过重雪崩。与缓存击穿的区别: 雪崩是很多key,击穿是某一个key缓存。
- 解决方案主要是可以将缓存失效时间分散开,比如可以在原有的失效时间基础上增加一个随机值,比如1-5分钟随机,这样每一个缓存的过期时间的重复率就会降低,就很难引发集体失效的事件。
redis双写问题
redis做为缓存,mysql的数据如何与redis进行同步呢? (双写一致性)
一定、一定、一定要设置前提,先介绍自己的业务背景
- 一致性要求高
- 允许延迟一致
双写一致性: 当修改了数据库的数据也要同时更新缓存的数据,缓存和数据库的数据要保持一致
延时双删方案
- 读操作: 缓存命中,直接返回; 缓存未命中查询数据库,写入缓存,设定超时时间;
- 写操作: 延迟双删
- 先删除缓存,还是先修改数据库? 无论哪种操作, 都可能会出现数据不一致
- 为什么要删除两次缓存? 降低脏数据的出现, 尽量保证数据一致性
- 为什么要延时删除? 如果数据库是主从模式, 主库同步数据到从库需要时间.
- 延时双删的延时时间不太好控制, 而且延时时间内, 仍有脏数据可能
- 延时双删可以很大程度上保证双写一致性, 但脏数据风险仍然存在, 本质是最终一致性方案
读写锁方案
- 一般放到缓存中的数据是读多写少, 如果写多读少还是直接操作数据库吧
- 读数据的时候添加共享锁, 允许其他线程读, 不允许写
- 写数据的时候添加排他锁, 阻塞其他程序的读写
- 读写锁在保证数据强一致的情况下, 读的性能高, 但是写的性能比较低
- 参考代码
异步通知保证数据的最终一致性
- 写数据的时候, 发消息给MQ
- 缓存服务监听MQ消息, 拿到消息后更新缓存
- 数据的更新存在延时, 但是能保证最终一致性
- 这个最终一致性的可靠度由MQ的可靠性决定的
- MQ的可靠性后面再研究
基于Canal的异步通知
- 阿里推出的中间件
- canal是基于mysql的主从同步来实现的
- 基本原理
- 二进制日志(BINLOG)记录了所有的 DDL(数据定义语言)语句和 DML(数据操纵语言)语句,但不包括数据查询(SELECT、SHOW)语句。
- 如果业务可以接受一定延时, 该方案还是不错的
- 以上所有案例提到的"延时"在正常情况下是感受不到的, 都是在大并发情况下才会出现的问题
redis做为缓存,mysql的数据如何与redis进行同步呢? (双写一致性)
- 就说我最近做的这个项目,里面有xxxx(根据自己的简历上写)的功能,需要让数据库与redis高度保持一致,因为要求时效性比较高,我们当时采用的读写锁保证的强一致性。
- 我们采用的是redisson实现的读写锁,在读的时候添加共享锁,可以保证读读不互斥,读写互斥。当我们更新数据的时候,添加排他锁,它是读写,读读都互斥,这样就能保证在写数据的同时是不会让其他线程读数据的,避免了脏数据。这里面需要注意的是读方法和写方法上需要使用同一把锁才行。
- 面试官: 那这个排他锁是如何保证读写、读读互斥的呢?
- 候选人: 实排他锁底层使用也是setnx,保证了同时只能有一个线程操作锁住的方法
- 面试官: 你听说过延时双删吗?为什么不用它呢?
- 候选人: 延迟双删,如果是写操作,我们先把缓存中的数据删除,然后更新数据库,最后再延时删除缓存中的数据,其中这个延时多久不太好确定,在延时的过程中可能会出现脏数据,并不能保证强一致性,所以没有采用它。
redis做为缓存,mysql的数据如何与redis进行同步呢? (双写一致性)
- 就说我最近做的这个项目,里面有xxxx(根据自己的简历上写)的功能,数据同步可以有一定的延时(符合大部分业务)
- 我们当时采用的阿里的canal组件实现数据同步: 不需要更改业务代码,部署一个canaI服务。canal服务把自己伪装成mysql的一个从节点,当mysql数据更新以后,canal会读取binlog数据,然后在通过canal的客户端获取到数据,更新缓存即可。
Redis的数据持久
RDB全称Redis Database Backup file(Redis数据备份文件),也被叫做Redis数据快照。简单来说就是把内存中的所有数据都记录到磁盘中。当Redis实例故障重启后,从磁盘读取快照文件,恢复数据
RDB的执行原理?
bgsave开始时会fork主进程得到子进程,子进程共享主进程的内存数据。完成fork后读取内存数据并写入 RDB 文件。
fork采用的是copy-on-write技术
- 当主进程执行读操作时,访问共享内存;
- 当主进程执行写操作时,则会拷贝一份数据,执行写操作。
AOF
AOF全称为Append Only File(追加文件)。Redis处理的每一个写命令都会记录在AOF文件,可以看做是命令日志文件。
AOF默认是关闭的,需要修改redis.conf配置文件来开启AOF
AOF的命令记录的频率也可以通过redis.conf文件来配:
因为是记录命令,AOF文件会比RDB文件大的多。而且AOF会记录对同一个key的多次写操作,但只有最后一次写操作才有意义。通过执行bgrewriteaof命令,可以让AOF文件执行重写功能,用最少的命令达到相同效果。
Redis也会在触发阈值时自动去重写AOF文件。阈值也可以在redis.conf中配置:
RDB和AOF各有自己的优缺点,如果对数据安全性要求较高,在实际开发中往往会结合两者来使用。
redis做为缓存,数据的持久化是怎么做的?
- 在Redis中提供了两种数据持久化的方式: 1、RDB 2、AOF
- 这两种持久化方式有什么区别呢?
- RDB是一个快照文件,它是把redis内存存储的数据写到磁盘上,当redis实例宕机恢复数据的时候,方便从RDB的快照文件中恢复数据。
- AOF的含义是追加文件,当redis操作写命令的时候,都会存储这个文件中,当redis实例宕机恢复数据的时候,会从这个文件中再次执行一遍命令来恢复数据
- 这两种方式,哪种恢复的比较快呢?
- RDB因为是二进制文件,在保存的时候体积也是比较小的,它恢复的比较快,但是它有可能会丢数据,
- 我们通常在项目中也会使用AOF来恢复数据,虽然AOF恢复的速度慢一些,但是它丢数据的风险要小很多,在AOF文件中可以设置刷盘策略,我们当时设置的就是每秒批量写入一次命令
Redis的数据过期策略
Redis数据删除策略-惰性删除
惰性删除: 设置该key过期时间后,我们不去管它,当需要该key时,我们在检查其是否过期,如果过期,我们就删掉反之返回该key
优点: 对CPU友好,只会在使用该key时才会进行过期检查,对于很多用不到的key不用浪费时间进行过期检查
缺点: 对内存不友好,如果一个key已经过期,但是一直没有使用,那么该key就会一直存在内存中,内存永远不会释放
Redis数据删除策略-定期删除
定期删除: 每隔一段时间,我们就对一些key进行检查,删除里面过期的key(从一定数量的数据库中取出一定数量的随机key进行检查,并删除其中的过期key)。
定期清理有两种模式:
- SLOW模式是定时任务,执行频率默认为10hz,每次不超过25ms,以通过修改配置文件redis.conf 的hz 选项来调整这个次数
- FAST模式执行频率不固定,但两次间隔不低于2ms,每次耗时不超过1ms
优点: 可以通过限制删除操作执行的时长和频率来减少删除操作对 CPU 的影响。另外定期删除,也能有效释放过期键占用的内存。
缺点: 难以确定删除操作执行的时长和频率。
Redis的过期删除策略: 惰性删除+定期删除两种策略进行配合使用
Redis的数据过期策略有哪些?
- 在redis中提供了两种数据过期删除策略
- 第一种是惰性删除,在设置该key过期时间后,我们不去管它,当需要该key时,我们在检查其是否期,如果过期,我们就删掉它,反之返回该key。
- 第二种是 定期删除,就是说每隔一段时间,我们就对一些key进行检查,删除里面过期的key
- 定期清理的两种模式:
- SLOW模式是定时任务,执行频率默认为10hz,每次不超过25ms,以通过修改配置文件redis.conf的hz选项来调整这个次数
- FAST模式执行频率不固定,每次事件循环会尝试执行,但两次间隔不低于2ms,每次耗时不超过1ms
- Redis的过期删除策略: 惰性删除+定期删除两种策略进行配合使用。
Redis的数据淘汰策略
数据的淘汰策略: 当Redis中的内存不够用时,此时在向Redis中添加新的key,那么Redis就会按照某一种规则将内存中的数据删除掉,这种数据的删除规则被称之为内存的淘汰策略。
Redis支持8种不同策略来选择要删除的key:
- noeviction: 不淘汰任何key,但是内存满时不允许写入新数据,默认就是这种策略。
- volatile-ttl: 对设置了TTL的key,比较key的剩余TTL值,TTL越小越先被淘汰
- allkeys-random: 对全体key,随机进行淘汰。
- volatile-random: 对设置了TTL的key,随机进行淘汰。
- allkeys-lru: 对全体key,基于LRU算法进行淘汰
- volatile-lru: 对设置了TTL的key,基于LRU算法进行淘汰
- allkeys-lfu: 对全体key,基于LFU算法进行淘汰
- volatile-lfu: 对设置了TTL的key,基于LFU算法进行淘汰
数据淘汰策略-使用建议
- 优先使用 alkeys-lru 策略。充分利用 LRU 算法的优势,把最近最常访问的数据留在缓存中。如果业务有明显的冷热数据区分,建议使用。
- 如果业务中数据访问频率差别不大,没有明显冷热数据区分,建议使用alkeys-random,随机选择淘汰
- 如果业务中有置顶的需求,可以使用 volatile-lru 策略,同时置顶数据不设置过期时间,这些数据就一直不被删除, 会淘汰其他设置过期时间的数据。
- 如果业务中有短时高频访问的数据,可以使用 allkeys-lfu 或 volatile-lfu 策略。
关于数据淘汰策略其他的面试问题
- 数据库有1000万数据,Redis只能缓存20w数据,如何保证Redis中的数据都是热点数据?
使用allkeys-lru (挑选最近最少使用的数据淘汰)淘汰策略,留下来的都是经常访问的热点数据
- Redis的内存用完了会发生什么?
主要看数据淘汰策略是什么? 如果是默认的配置(noeviction),会直接报错
Redis的数据淘汰策略有哪些?候选人:
- 这个在redis中提供了很多种,默认是noeviction,不删除任何数据,内部不足直接报错
- 可以在redis的配置文件中进行设置的,里面有两个非常重要的概念,一个是LRU,另外一个是LFU
- LRU的意思就是最少最近使用,用当前时间减去最后一次访问时间,这个值越大则淘汰优先级越高。
- LFU的意思是最少频率使用。会统计每个key的访问频率,值越小淘汰优先级越高
- 我们在项目设置的是allkeys-lru,挑选最近最少使用的数据淘汰,把一些经常访问的key留在redis中
- 面试官: 数据库有1000万数据,Redis只能缓存20w数据,如何保证Redis中的数据都是热点数据?
- 可以使用 allkeys-ru(挑选最近最少使用的数据淘汰)淘汰策略,那留下来的都是经常访问的热点数据
- Redis的内存用完了会发生什么?
- 主要看数据淘汰策略是什么? 如果是默认的配置(noeviction),会直接报错
Redis分布式锁如何实现
redis分布式锁,是如何实现的?
需要结合项目中的业务进行回答,通常情况下,分布式锁使用的场景,集群情况下的定时任务、抢单、幂等性场景
抢券场景
抢券执行流程: 正常情况下, 该代码是没有问题的
库存超减: 线程之间是交替执行的, 代码的执行流程就可能如下, 出现超卖的情况
使用多线程提供的synchronized锁, 解决超卖问题
服务集群部署的情况下, 如何解决超卖问题?
使用分布式锁的方案
redis分布式锁
Redis实现分布式锁主要利用Redis的setnx命令。setnx是SET if not exists(如果不存在,则 SET)的简写。
- 获取锁
- 释放锁
- 使用流程
- Redis实现分布式锁如何合理的控制锁的有效时长?
- 问题原因: 业务执行时间超过锁的超时时间, 导致锁失效, 就不能保证业务的原子性了, 可能影响业务数据
- 解决思路有两种
- 根据业务执行时间预估: 其实很难预估, 受网络/服务器等因素影响
- 给锁续期: 获取到锁之后, 自己开一个线程, 监控业务执行, 如果业务执行时间较长, 就增加锁的过期时间
redisson实现的分布式锁-执行流程
- 一个线程来了, 先尝试加锁, 加锁成功了就可以操作redis, 加锁成功后, 自动开启一个看门狗线程, 不断监听持有锁的线程, 给该锁增加过期时间
- 手动释放锁之后, 会自动通知看门口取消监听
- 新的线程尝试加锁时, 如果成功则可以操作redis, 如果失败, 会开启一个循环, 不断尝试加锁
- 如果线程1一直不释放锁, 线程2也不会一直循环, 超过阈值就会放弃
- 一般情况下业务的执行也就几十毫秒, 线程3不会等很久, 加入这个等待机制(重试机制)的好处就是, 在高并发情况下, 可以很大程度上的提高分布式锁的使用性能
- 具体redisson使用代码
redisson实现的分布式锁- 可重入
- 上述代码, 如果add2方法获取锁成功了, 说明这个锁是可以重入的, 获取锁失败, 说明这个锁是不可重入的
- redis的分布式锁是不可重入的, redisson的分布式锁可重入
- redisson是根据线程id来进行判断的, 同一个线程是可以获取锁成功的, 不同的线程会获取失败
- 好处:
- 业务复杂的时候, 锁的粒度比较细的时候, 就可能用到锁的重入
- 可以避免多个锁产生死锁的问题
redisson实现的分布式锁-主从一致性
- 正常情况下, java应用在主节点获取锁, 然后操作数据
- 如果这个时候主节点宕机了, 依据redis的哨兵模式, 会从从节点中选一个当做主节点, 那么新的线程来了之后, 会从新的的主节点获取锁, 这时两个线程就同时持有一把锁, 就丧失了锁的互斥性, 可能出现脏数据
- redisson提供了RedLock, 解决主从节点不一致的问题
RedLock(红锁): 不能只在一个redis实例上创建锁,应该是在多个redis实例上创建锁(n/2+ 1),避免在一个redis实例上加锁。
- 红锁使用的很少, 因为服务器宕机是低概率事件, 而且redis整体是AP思想, 保证高可用, 追求最终一致性, 如果一定要保证数据强一致性, 建议使用CP思想的zookeeper实现分布式锁
Redis分布式锁如何实现?
- redis中提供了一个命令setnx(SETifnot exists)
- 由于redis的单线程的,用了命令之后,只能有一个客户端对某一个key设置值,在没有过期或删除key的时候是其他客户端是不能设置这个key的
- 那你如何控制Redis实现分布式锁有效时长呢?
- redis的setnx指令不好控制这个问题,我们当时采用的redis的一个框架redisson实现的。
- 在redisson中需要手动加锁,并且可以控制锁的失效时间和等待时间,当锁住的一个业务还没有执行完成的时候,在redisson中引入了一个看门狗机制,就是说每隔一段时间就检查当前业务是否还持有锁,如果持有就增加加锁的持有时间,当业务执行完成之后需要使用释放锁就可以了
- 还有一个好处就是,在高并发下,一个业务有可能会执行很快,先客户1持有锁的时候,客户2来了以后并不会马上拒绝,它会自选不断尝试获取锁,如果客户1释放之后,客户2就可以马上持有锁,性能也得到了提升。
- redisson实现的分布式锁是可重入的吗?
- 是可以重入的。这样做是为了避免死锁的产生。这个重入其实在内部就是判断是否是当前线程持有的锁,如果是当前线程持有的锁就会计数,如果释放锁就会在计算上减一。在存储数据的时候采用的hash结构,大key可以按照自己的业务进行定制,其中小key是当前线程的唯一标识,value是当前线程重入的次数.
- redisson实现的分布式锁能解决主从一致性的问题吗?
- 不能解决,但是可以使用redisson提供的红锁来解决,但是这样的话,性能就太低了,如果业务中非要保证数据的强一致性,建议采用zookeeper实现的分布式锁
集群问题
Redis集群有哪些方案
在Redis中提供的集群方案总共有三种
- 主从复制
- 哨兵模式
- 分片集群
什么是 Redis 主从同步
主从复制
单节点Redis的并发能力是有上限的,要进一步提高Redis的并发能力,就需要搭建主从集群,实现读写分离。
主从数据同步原理
主从全量同步
- Replication ld: 简称replid,是数据集的标记,id一致则说明是同一数据集。每一个master都有唯一的replid, slave则会继承master节点的replid
- offset: 偏移量,随着记录在repl_baklog中的数据增多而逐渐增大。slave完成同步时也会记录当前同步的offset。 如果slave的offset小于master的offset,说明slave数据落后于master,需要更新。
流程说明
- 从节点请求主节点同步数据(replicationid、offset)
- 主节点判断是否是第一次请求,是第一次就与从节点同步版本信息(replication id和offset)
- 主节点执行bgsave,生成rdb文件后,发送给从节点去执行
- 在rdb生成执行期间,主节点会以命令的方式记录到缓冲区(一个日志文件)
- 把生成之后的命令日志文件发送给从节点进行同步
主从增量同步 (slave重启或后期数据变化)
- 从节点请求主节点同步数据,主节点判断不是第一次请求,不是第一次就获取从节点的offset值
- 主节点从命令日志中获取offset值之后的数据,发送给从节点进行数据同步
面试官: Redis集群有哪些方案,知道嘛?
在Redis中提供的集群方案总共有三种: 主从复制、哨兵模式、Redis分片集
面试官: 那你来介绍一下主从同步
- 单节点Redis的并发能力是有上限的,要进一步提高Redis的并发能力,可以搭建主从集群,实现读写分离。
- 一般都是一主多从,主节点负责写数据,从节点负责读数据,主节点写入数据之后,需要把数据同步到从节点中
面试官: 能说一下,主从同步数据的流程
- 主从同步分为了两个阶段,一个是全量同步,一个是增量同步
- 从节点第一次与主节点建立连接的时候使用全量同步,流程是这样的:
- 第一: 从节点请求主节点同步数据,其中从节点会携带自己的replicationid和offset偏移量。
- 第二: 主节点判断是否是第一次请求,主要判断的依据就是,主节点与从节点是否是同一个replicationid,如果不是,就说明是第一次同步,那主节点就会把自己的replicationid和offset发送给从节点,让从节点与主节点的信息保持一致。
- 第三: 同时主节点会执行bgsave,生成rdb文件后,发送给从节点去执行,从节点先把自己的数据清空,然后执行主节点发送过来的rdb文件,这样就保持了一致
- 当然,如果在rdb生成执行期间,依然有请求到了主节点,而主节点会以命令的方式记录到缓冲区,缓冲区是一个日志文件,最后把这个日志文件发送给从节点,这样就能保证主节点与从节点完全一致了,后期再同步数据的时候,都是依赖于这个日志文件,这个就是全量同步
- 增量同步指的是,当从节点服务重启之后,数据就不一致了,所以这个时候,从节点会请求主节点同步数据,主节点判断是不是第一次请求,不是第一次就获取从节点的offset值,然后主节点从命令日志中获取offset值之后的数据,发送给从节点进行数据同步
怎么保证redis的高并发高可用
主从模式可以解决单节点redis的性能瓶颈, 但是不能保证redis的高可用
哨兵模式
Redis提供了哨兵(Sentinel) 机制来实现主从集群的自动故障恢复。哨兵的结构和作用如下
- 监控: Sentinel会不断检查您的master和slave是否按预期工作
- 自动故障恢复: 如果master故障,Sentinel会将一个slave提升为master。当故障实例恢复后也以新的master为主
- 通知: Sentinel充当Redis客户端的服务发现来源,当集群发生故障转移时,会将最新信息推送给Redis的客户端
服务状态监控
Sentinel基于心跳机制监测服务状态,每隔1秒向集群的每个实例发送ping命令:
- 主观下线: 如果某sentinel节点发现某实例未在规定时间响应,则认为该实例主观下线。
- 客观下线: 若超过指定数量(quorum)的sentinel都认为该实例主观下线,则该实例客观下线。quorum值最好超过Sentinel实例数量的一半。
哨兵选主规则
- 首先判断主与从节点断开时间长短,如超过指定值就排该从节点
- 然后判断从节点的slave-priority值,越小优先级越高
- 如果slave-prority一样,则判断slave节点的offset值,越大优先级越高
- 最后是判断slave节点的运行id大小,越小优先级越高。
redis集群(哨兵模式)脑裂
- 这是一个主从架构配合哨兵模式的高可用集群
- 因为网络故障(如主节点网卡故障、网络延迟 / 丢包、防火墙拦截等),导致哨兵集群无法与主节点通信,哨兵误判主节点宕机,进而将一个从节点晋升为新主节点, 此时集群中出现两个主节点(原主节点 + 新主节点),客户端还会向原主节点写入数据。
- 原主节点恢复上线, 会降级为从节点, 客户端再写数据时会向新主节点写入, 原主节点的数据就会被覆盖, 最终数据丢失等问题
- redis中有两个配置参数:
- min-replicas-to-write 1 表示最少的salve节点为1个
- min-replicas-max-lag 5 表示数据复制和同步的延迟不能超过5秒
# redis.conf 主节点配置 # 1. 主节点能连接的从节点最小数量(低于此值则拒绝写入) min-replicas-to-write 1 # 2. 从节点与主节点的最大延迟时间(超过此值则视为“无效从节点”) min-replicas-max-lag 10- 通过 Redis 主节点的配置,让原主节点在 “脑裂” 期间拒绝客户端写入,避免数据双写
面试官: 怎么保证Redis的高并发高可用
- 首先可以搭建主从集群,再使用redis的哨兵模式,哨兵模式可以实现主从集群的自动故障恢复,里面就包含了对主从服务的监控、自动故障恢复、通知
- 如果master故障,Sentinel会将一个slave提升为master。当故障实例恢复后也以新的master为主;
- 同时Sentinel也充当Redis客户端的服务发现来源,当集群发生故障转移时,会将最新信息推送给Redis的客户端,所以一般项目都会采用哨兵的模式来保证redis的高并发高可用
你们使用redis是单点还是集群,哪种集群?
- 使用的是主从(1主1从)加哨兵。一般单节点不超过10G内存,如果Redis内存不足则可以给不同服务分配独立的Redis主从节点。
- 尽量不做分片集群。因为集群维护起来比较麻烦,并且集群之间的心跳检测和数据通信会消耗大量的网络带宽,也没有办法使用lua脚本和事务
redis集群脑裂,该怎么解决呢?
- 有的时候由于网络等原因可能会出现脑裂的情况,就是说,由于redismaster节点和redis salve节点和sentinel处于不同的网络分区,使得sentinel没有能够心跳感知到master,所以通过选举的方式提升了一个salve为master,这样就存在了两个master,这样会导致客户端还在old master那里写入数据,新节点无法同步数据,当网络恢复后,sentinel会将oldmaster降为salve,这时再从新master同步数据,这会导致old master中的大量数据丢失。
- 可以对redis进行配置: 设置最少的salve节点个数,设置至少有一个从节点才能同步数据,再设置主从数据复制和同步的延迟时间,达不到要求就拒绝请求,就可以避免大量的数据丢失
redis分片集群
主从和哨兵可以解决高可用、高并发读的问题。但是依然有两个问题没有解决
- 海量数据存储问题
- 高并发写的问题
使用分片集群可以解决上述问题,分片集群特征:
- 集群中有多个master,每个master保存不同数据
- 每个master都可以有多个slave节点
- master之间通过ping监测彼此健康状态
- 客户端请求可以访问集群任意节点,最终都会被转发到正确节点
分片集群结构-数据读写
Redis 分片集群引入了哈希槽的概念,Redis 集群有 16384 个哈希槽,每个 key通过 CRC16 校验后对 16384 取模来决定放置哪个槽,集群的每个节点负责一部分 hash 槽。
- Redis 分片集群引入了哈希槽的概念,Redis 集群有 16384 个哈希槽
- 将16384个插槽分配到不同的实例
- 读写数据: 根据key的有效部分计算哈希值,对16384取余(有效部分,如果key前面有大括号,大括号的内容就是有效部分,如果没有,则以key本身做为有效部分)余数做为插槽,寻找插槽所在的实例
面试官: redis的分片集群有什么作用
- 分片集群主要解决的是,海量数据存储的问题,集群中有多个master,每个master保存不同数据,并且还可以给每个master设置多个slave节点,就可以继续增大集群的高并发能力。
- 同时每个master之间通过ping监测彼此健康状态,就类似于哨兵模式了。当客户端请求可以访问集群任意节点,最终都会被转发到正确节点
面试官: Redis分片集群中数据是怎么存储和读取的?
- Redis 集群引入了哈希槽的概念,有 16384个哈希槽,集群中每个主节点绑定了一定范围的哈希槽范围,
- key通过 CRC16校验后对 16384 取模来决定放置哪个槽,通过槽找到对应的节点进行存储。
- 取值的逻辑是一样的
原理问题
Redis为什么还那么快?
- Redis是纯内存操作,执行速度非常快
- 采用单线程,避免不必要的上下文切换
- 如果使用多线程, 就要考虑线程安全问题, 大量使用并发锁, 就会影响性能
- 使用I/O多路复用模型,非阻塞IO
能解释一下I/O多路复用模型?
Redis是纯内存操作,执行速度非常快,它的性能瓶颈是网络延迟而不是执行速度, I/O多路复用模型主要就是实现了高效的网络请求
- 用户空间和内核空间
- 常见的IO模型
- 阻塞IO (Blocking IO)
- 非阻塞塞IO (Nonblocking lO)
- IO多路复用 (IO Multiplexing)
- Redis网络模型
用户空间和内核空间
Linux系统中一个进程使用的内存情况划分两部分:内核空间、用户空间
- 用户空间只能执行受限的命令(Ring3),而且不能直接调用系统资源必须通过内核提供的接口来访问
- 内核空间可以执行特权命令(Ring0),调用一切系统资源
Linux系统为了提高IO效率,会在用户空间和内核空间都加入缓冲区
- 写数据时,要把用户缓冲数据拷贝到内核缓冲区,然后写入设备
- 读数据时,要从设备读取数据到内核缓冲区,然后拷贝到用户缓冲区
阻塞IO
顾名思义,阻塞IO就是两个阶段都必须阻塞等待
阶段一:
- 用户进程尝试读取数据(比如网卡数据)
- 此时数据尚未到达,内核需要等待数据
- 此时用户进程也处于阻塞状态
阶段二:
- 数据到达并拷贝到内核缓冲区,代表已就绪
- 将内核数据拷贝到用户缓冲区拷贝过程中,用户进程依然阻塞
- 等待拷贝完成,用户进程解除阻塞,处理数据
非阻塞IO
顾名思义,非阻塞IO的recvfrom操作会立即返回结果而不是阻塞用户进程。
阶段一:
- 用户进程尝试读取数据(比如网卡数据)
- 此时数据尚未到达,内核需要等待数据
- 返回异常给用户进程
- 用户进程拿到error后,再次尝试读取
- 循环往复,直到数据就绪
阶段二:
- 将内核数据拷贝到用户缓冲区
- 拷贝过程中,用户进程依然阻塞等待
- 拷贝完成,用户进程解除阻塞,处理数据
可以看到,非阻塞IO模型中,用户进程在第一个阶段是非阻塞,第二个阶段是阻塞状态。虽然是非阻塞,但性能并没有得到提高。而且忙等机制会导致CPU空转,CPU使用率暴增。
IO多路复用
IO多路复用: 是利用单个线程来同时监听多个Socket,并在某个Socket可读、可写时得到通知,从而避免无效的等待,充分利用CPU资源。
阶段一:
- 用户进程调用select,指定要监听的Socket集合
- 内核监听对应的多个socket
- 任意一个或多个socket数据就绪则返回readable
- 此过程中用户进程阻塞
阶段二:
- 用户进程找到就绪的socket
- 依次调用recvfrom读取数据
- 内核将数据拷贝到用户空间
- 用户进程处理数据
IO多路复用是利用单个线程来同时监听多个Socket ,并在某个Socket可读、可写时得到通知,从而避免无效的等待充分利用CPU资源。不过监听Socket的方式、通知的方式又有多种实现,常见的有:
- select
- poll
- epoll
差异:
- select和poI只会通知用户进程有Socket就绪,但不确定具体是哪个Socket,需要用户进程逐个遍
历Socket来确认
- epoll则会在通知用户进程Socket就绪的同时,把已就绪的Socket写入用户空间
Redis网络模型
Redis通过IO多路复用来提高网络性能,并且支持各种不同的多路复用实现,并且将这些实现进行封装, 提供了统一的高性能事件库
能解释一下I/O多路复用模型?
- I/O多路复用是指利用单个线程来同时监听多个Socket,并在某个Socket可读、可写时得到通知,从而避免无效的等待,充分利用CPU资源。目前的I/O多路复用都是采用的epoll模式实现, 它会在通知用户进程Socket就绪的同时,把已就绪的Socket写入用户空间,不需要挨个遍历Socket来判断是否就绪,提升了性能。
- 其中Redis的网络模型就是使用I/O多路复用结合事件的处理器来应对多个Socket请求,比如,提供了连接应答处理器、命令回复处理器,命令请求处理器;
- 在Redis6.0之后,为了提升更好的性能,在命令回复处理器使用了多线程来处理回复事件,在命令请求处理器中,将命令的转换使用了多线程,增加命令转换速度,在命令执行的时候,依然是单线程
