服务器之家:专注于VPS、云服务器配置技术及软件下载分享
分类导航

Mysql|Sql Server|Oracle|Redis|MongoDB|PostgreSQL|Sqlite|DB2|mariadb|Access|数据库技术|

服务器之家 - 数据库 - Redis - 深度剖析 Redis 主从架构原理

深度剖析 Redis 主从架构原理

2024-03-12 14:33springboot葵花宝典 Redis

主从架构,事件就是数据可以在多个实例上进行复制,当主节点出现故障时,从节点可以接管服务,从而实现快速故障转移,保证服务的持续可用性。此外,主从架构还可以提高系统的并发能力,因为多个节点可以同时处理请求。

深度剖析 Redis 主从架构原理

Redis 的主从架构,其实就是利用多副本,将一份数据同时保存在多个实例上。单个实例出现故障后,一般都会过一段时间才能恢复,那么其他节点还是可以提供服务的

1. 为什么需要主从架构

单点架构在Redis中可能会带来以下问题

  • 单点故障:Redis单点故障会导致服务不可用,造成服务中断或者服务雪崩。高并发情况下,如果Redis单点出现故障,所有请求都会受到影响,无法得到有效响应。
  • 可用性问题:由于Redis单点架构没有备份节点,因此无法在发生故障时快速转移服务以保证系统的持续可用性。这意味着在单点故障发生时,服务可能需要较长时间才能恢复。
  • 数据丢失风险:Redis是内存数据库,虽然可以通过RDB和AOF文件进行数据持久化备份,但在单点架构中,如果Redis节点发生故障,数据恢复过程可能会耗时较长,且存在数据丢失的风险。

针对这些问题,可以采取主从架构来提高Redis的可用性和容错性。通过在主节点上设置多个从节点,可以实现数据的复制和故障转移,从而降低单点故障的影响,提高系统的稳定性和可用性

2. 主从架构原理

主从架构,事件就是数据可以在多个实例上进行复制,当主节点出现故障时,从节点可以接管服务,从而实现快速故障转移,保证服务的持续可用性。此外,主从架构还可以提高系统的并发能力,因为多个节点可以同时处理请求。这样,在主节点故障时,从节点可以立即接管服务,避免了单点故障导致的服务中断或雪崩效应

3. 主从架构拓扑图

在Redis中,主从架构的确实是一种主从库模式,其中主节点负责处理写操作并将数据同步到从节点,从节点则负责处理读操作。这种主从库模式可以根据节点之间的拓扑结构分为以下三种类型

  • 单主单从结构(Single Master-Single Slave):一个主节点,一个从节点,主节点可读可写,从节点只接收读请求。常用于主节点出现故障时,从节点能够快速顶上

深度剖析 Redis 主从架构原理图片

  • 单主多从结构(Single Master-Multiple Slaves):一个主节点,多个从节点,对于读命令较大的场景,可以把读命令分摊到多个从节点

深度剖析 Redis 主从架构原理图片

  • 树状主从结构:一个主节点,多个从节点,其中一个从节点作为中间层,既可以复制主节点,又可以当做其他从节点复制的主节点。有效降低主节点负载和需要传送给从节点的数据量。

深度剖析 Redis 主从架构原理图片

4. 主从数据同步原理

4.1.全量同步

主从第一次建立连接时,会执行全量同步,将master节点的所有数据都拷贝给slave节点,流程:

深度剖析 Redis 主从架构原理图片

思考:master如何得知salve是第一次来连接呢?

有几个概念,可以作为判断依据:

  • Replication Id:简称replid,是数据集的标记,id一致则说明是同一数据集。每一个master都有唯一的replid,slave则会继承master节点的replid
  • offset:偏移量,随着记录在repl_baklog中的数据增多而逐渐增大。slave完成同步时也会记录当前同步的offset。如果slave的offset小于master的offset,说明slave数据落后于master,需要更新。

slave数据同步,必须向master声明自己的replication id 和offset,master才可以判断到底需要同步哪些数据。

slave原本也是一个master,有自己的replid和offset,当第一次变成slave,与master建立连接时,发送的replid和offset是自己的replid和offset。

master判断发现slave发送来的replid与自己的不一致,说明这是一个全新的slave,就知道要做全量同步了

master会将自己的replid和offset都发送给这个slave,slave保存这些信息。以后slave的replid就与master一致了。

因此,master判断一个节点是否是第一次同步的依据,就是看replid是否一致。

深度剖析 Redis 主从架构原理图片

完整流程描述:

  • slave节点请求增量同步
  • master节点判断replid,发现不一致,拒绝增量同步
  • master将完整内存数据生成RDB,发送RDB到slave
  • slave清空本地数据,加载master的RDB
  • master将RDB期间的命令记录在repl_baklog,并持续将log中的命令发送给slave
  • slave执行接收到的命令,保持与master之间的同步

4.2.增量同步

全量同步需要先做RDB,然后将RDB文件通过网络传输个slave,成本太高了。因此除了第一次做全量同步,其它大多数时候slave与master都是做增量同步

思考:什么是增量同步?

增量同步是只更新slave与master存在差异的部分数据

深度剖析 Redis 主从架构原理图片

思考:master怎么知道slave与自己的数据差异在哪里呢?

5.repl_backlog原理

这就要说到全量同步时的repl_baklog文件了。

这个文件是一个固定大小的数组,只不过数组是环形,也就是说角标到达数组末尾后,会再次从0开始读写,这样数组头部的数据就会被覆盖。

  • repl_baklog中会记录Redis处理过的命令日志及offset,包括master当前的offset,和slave已经拷贝到的offset:

深度剖析 Redis 主从架构原理图片

slave与master的offset之间的差异,就是salve需要增量拷贝的数据了。

随着不断有数据写入,master的offset逐渐变大,slave也不断的拷贝,追赶master的offset:

深度剖析 Redis 主从架构原理图片

直到数组被填满:

深度剖析 Redis 主从架构原理图片

此时,如果有新的数据写入,就会覆盖数组中的旧数据。不过,旧的数据只要是绿色的,说明是已经被同步到slave的数据,即便被覆盖了也没什么影响。因为未同步的仅仅是红色部分。

但是,如果slave出现网络阻塞,导致master的offset远远超过了slave的offset:

深度剖析 Redis 主从架构原理图片

如果master继续写入新数据,其offset就会覆盖旧的数据,直到将slave现在的offset也覆盖:

深度剖析 Redis 主从架构原理图片

棕色框中的红色部分,就是尚未同步,但是却已经被覆盖的数据。此时如果slave恢复,需要同步,却发现自己的offset都没有了,无法完成增量同步了,只能做全量同步。

注意:repl_baklog大小有上限,写满后会覆盖最早数据,如果slave断开时间过久,导致尚未备份的数据被覆盖,否则无法基于log做增量同步,只能再次全量同步

原文地址:https://mp.weixin.qq.com/s/ilySjB4P1kVFydSEibStjQ

延伸 · 阅读

精彩推荐
  • Redis巧用Redis实现分布式锁详细介绍

    巧用Redis实现分布式锁详细介绍

    大家好,本篇文章主要讲的是巧用Redis实现分布式锁详细介绍,感兴趣的同学赶快来看一看吧,对你有帮助的话记得收藏一下,方便下次浏览...

    Monster_起飞8752022-01-25
  • Redis一文搞懂Redis中String数据类型

    一文搞懂Redis中String数据类型

    string 是 redis 最基本的类型,你可以理解成与 Memcached 一模一样的类型,一个 key 对应一个 value。今天通过本文给大家介绍下Redis中String数据类型,感兴趣的...

    毕竟尹稳健6992022-10-13
  • Redis解析Redis 数据结构之简单动态字符串sds

    解析Redis 数据结构之简单动态字符串sds

    Redis 的 string 类型为何使用sds而不是 C 字符串,本文主要介绍 string 的数据结构—— 简单动态字符串(Simple Dynamic String) 简称sds的相关知识,需要的朋友可以...

    小码code5722022-01-22
  • Redisredis操作学习记录

    redis操作学习记录

    这篇文章主要介绍了redis操作,记录总结了Redis客户端、服务器、string、hash、list、发布/订阅、事务等相关概念、原理与操作技巧,需要的朋友可以参考下 ...

    随风行云4972020-05-14
  • RedisRedis不同数据类型使用场景代码实例

    Redis不同数据类型使用场景代码实例

    这篇文章主要介绍了Redis不同数据类型使用场景代码实例,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友可...

    ノGHJ6222021-02-21
  • Redis16个Redis的常见使用场景

    16个Redis的常见使用场景

    这篇文章主要介绍了Redis 常见使用场景的相关资料,需要的朋友可以参考下文...

    bucaichenmou3892021-09-18
  • Redis详解Redis开启远程登录连接

    详解Redis开启远程登录连接

    本篇文章主要介绍了Redis开启远程登录连接,小编觉得挺不错的,现在分享给大家,也给大家做个参考。一起跟随小编过来看看吧 ...

    502studio6942019-11-06
  • RedisRedis去重的3种不同方法汇总

    Redis去重的3种不同方法汇总

    Redis是完全开源免费的,遵守BSD协议,是一个高性能的key-value数据库,下面这篇文章主要给大家介绍了关于Redis去重的3种不同方法,需要的朋友可以参考下...

    大数据技术派10352021-11-23