服务器之家:专注于VPS、云服务器配置技术及软件下载分享
分类导航

Mysql|Sql Server|Oracle|Redis|MongoDB|PostgreSQL|Sqlite|DB2|mariadb|Access|数据库技术|

服务器之家 - 数据库 - Redis - Redis大Key多Key拆分方案,你学会了吗?

Redis大Key多Key拆分方案,你学会了吗?

2022-11-03 19:49码猿技术专栏不才陈某 Redis

业务场景中经常会有各种大key多key的情况,由于redis是单线程运行的,如果一次操作的value很大会对整个redis的响应时间造成负面影响,所以,业务上能拆则拆,下面举几个典型的分拆方案。

业务场景中经常会有各种大key多key的情况, 比如:

1:单个简单的key存储的value很大。

2:hash, set,zset,list 中存储过多的元素(以万为单位)。

3:一个集群存储了上亿的key,Key 本身过多也带来了更多的空间占用。

(如无意外,文章中所提及的hash,set等数据结构均指redis中的数据结构 )。

由于redis是单线程运行的,如果一次操作的value很大会对整个redis的响应时间造成负面影响,所以,业务上能拆则拆,下面举几个典型的分拆方案。

1:单个简单的key存储的value很大

i:该对象需要每次都整存整取

可以尝试将对象分拆成几个key-value, 使用multiGet获取值,这样分拆的意义在于分拆单次操作的压力,将操作压力平摊到多个redis实例中,降低对单个redis的IO影响;

ii:该对象每次只需要存取部分数据

可以像第一种做法一样,分拆成几个key-value, 也可以将这个存储在一个hash中,每个field代表一个具体的属性。

使用hget,hmget来获取部分的value,使用hset,hmset来更新部分属性。

2:value中存储过多的元素

类似于场景一种的第一个做法,可以将这些元素分拆。

以hash为例,原先的正常存取流程是 hget(hashKey, field) ; hset(hashKey, field, value)。

现在,固定一个桶的数量,比如 10000, 每次存取的时候,先在本地计算field的hash值,模除 10000, 确定了该field落在哪个key上。

newHashKey = hashKey + ( set, zset, list 也可以类似上述做法。

但有些不适合的场景,比如,要保证 lpop 的数据的确是最早push到list中去的,这个就需要一些附加的属性,或者是在 key的拼接上做一些工作(比如list按照时间来分拆)。

3:一个集群存储了上亿的key

如果key的个数过多会带来更多的内存空间占用。

i:key本身的占用(每个key 都会有一个Category前缀)。

ii:集群模式中,服务端需要建立一些slot2key的映射关系,这其中的指针占用在key多的情况下也是浪费巨大空间。

这两个方面在key个数上亿的时候消耗内存十分明显(Redis 3.2及以下版本均存在这个问题,4.0有优化);

所以减少key的个数可以减少内存消耗,可以参考的方案是转Hash结构存储,即原先是直接使用Redis String 的结构存储,现在将多个key存储在一个Hash结构中,具体场景参考如下:

一:key 本身就有很强的相关性,比如多个key 代表一个对象,每个key是对象的一个属性,这种可直接按照特定对象的特征来设置一个新Key——Hash结构, 原先的key则作为这个新Hash 的field。

举例说明:

原先存储的三个key 。

user.zhangsan-id = 123; user.zhangsan-age = 18; user.zhangsan-country = china;

这三个key本身就具有很强的相关特性,转成Hash存储就像这样 key = user.zhangsan。

field:id = 123; field:age = 18; field:country = china;

即redis中存储的是一个key :user.zhangsan, 他有三个 field, 每个field + key 就对应原先的一个key。

二:key 本身没有相关性,预估一下总量,采取和上述第二种场景类似的方案,预分一个固定的桶数量。

比如现在预估key 的总数为 2亿,按照一个hash存储 100个field来算,需要 2亿 / 100 = 200W 个桶 (200W 个key占用的空间很少,2亿可能有将近 20G )。

原先比如有三个key :

user.123456789 user.987654321 user.678912345

现在按照200W 固定桶分就是先计算出桶的序号 hash(123456789) % 200W , 这里最好保证这个 hash算法的值是个正数,否则需要调整下模除的规则;

这样算出三个key 的桶分别是 1 , 2, 2。 所以存储的时候调用API hset(key, field, value),读取的时候使用 hget (key, field)。

Redis大Key多Key拆分方案,你学会了吗?

注意两个地方:1,hash 取模对负数的处理; 2,预分桶的时候, 一个hash 中存储的值最好不要超过 512 ,100 左右较为合适

4:大Bitmap或布隆过滤器(Bloom )拆分

使用bitmap或布隆过滤器的场景,往往是数据量极大的情况,在这种情况下,Bitmap和布隆过滤器使用空间也比较大,比如用于公司userid匹配的布隆过滤器,就需要512MB的大小,这对redis来说是绝对的大value了。

这种场景下,我们就需要对其进行拆分,拆分为足够小的Bitmap,比如将512MB的大Bitmap拆分为1024个512KB的Bitmap。不过拆分的时候需要注意,要将每个key落在一个Bitmap上。有些业务只是把Bitmap 拆开, 但还是当做一个整体的bitmap看, 所以一个 key 还是落在多个 Bitmap 上,这样就有可能导致一个key请求需要查询多个节点、多个Bitmap。如下图,被请求的值被hash到多个Bitmap上,也就是redis的多个key上,这些key还有可能在不同节点上,这样拆分显然大大降低了查询的效率。

Redis大Key多Key拆分方案,你学会了吗?

因此我们所要做的是把所有拆分后的Bitmap当作独立的bitmap,然后通过hash将不同的key分配给不同的bitmap上,而不是把所有的小Bitmap当作一个整体。这样做后每次请求都只要取redis中一个key即可。

Redis大Key多Key拆分方案,你学会了吗?

有同学可能会问,通过这样拆分后,相当于Bitmap变小了,会不会增加布隆过滤器的误判率?实际上是不会的,布隆过滤器的误判率是哈希函数个数k,集合元素个数n,以及Bitmap大小m所决定的,其约等于Redis大Key多Key拆分方案,你学会了吗?。因此如果我们在第一步,也就是在分配key给不同Bitmap时,能够尽可能均匀的拆分,那么n/m的值几乎是一样的,误判率也就不会改变。具体的误判率推导可以参考wiki:Bloom_filter。

同时,客户端也提供便利的api (>=2.3.4版本), setBits/ getBits 用于一次操作同一个key的多个bit值 。

建议 :k 取 13 个, 单个bloomfilter控制在 512KB 以下。

原文地址:https://mp.weixin.qq.com/s/UeJ4xo2cRQmXRopgGUbe7Q

延伸 · 阅读

精彩推荐
  • RedisWindows系统安装Redis的详细图文教程

    Windows系统安装Redis的详细图文教程

    但有时候想在windows下折腾下Redis,那么就可以参考下面的方法了,虽然脚本之家小编以前整理了一些,发现这篇做的比较详细,下载也给出来了 ...

    花伦同学ko19682019-11-15
  • RedisRedis ziplist 压缩列表的源码解析

    Redis ziplist 压缩列表的源码解析

    ziplist 是一个经过特殊编码的双向链表,旨在提高内存效率,它存储字符串和整数值,其中整数被编码为实际整数而不是一系列字符,这篇文章主要介绍了...

    一七令11752022-10-25
  • RedisRedis高并发问题的解决方法

    Redis高并发问题的解决方法

    这篇文章主要介绍了Redis高并发问题的解决办法,具有很好的参考价值,感兴趣的小伙伴们可以参考一下,具体如下: ...

    wow-zyshun6982019-11-13
  • RedisRedis字典实现、Hash键冲突及渐进式rehash详解

    Redis字典实现、Hash键冲突及渐进式rehash详解

    这篇文章主要介绍了Redis字典实现、Hash键冲突以及渐进式rehash的相关知识,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要...

    拾牙慧者10842021-09-28
  • Redisredis三种高可用方式部署的实现

    redis三种高可用方式部署的实现

    这篇文章主要介绍了redis三种高可用方式部署的实现,文中通过示例代码介绍的非常详细,对大家的学习或者工作具有一定的参考学习价值,需要的朋友们...

    鹧鸪鹄11302021-08-03
  • Redisredis调用二维码时的不断刷新排查分析

    redis调用二维码时的不断刷新排查分析

    这篇文章主要为大家介绍了redis调用二维码时不断刷新排查分析,有需要的朋友可以借鉴参考下,希望能够有所帮助,祝大家多多进步早日升职加薪...

    一夕如环6922022-10-13
  • Redis基于Redis+Lua脚本实现分布式限流组件封装的方法

    基于Redis+Lua脚本实现分布式限流组件封装的方法

    这篇文章主要介绍了基于Redis+Lua脚本实现分布式限流组件封装,本文给大家介绍的非常详细,对大家的学习或工作具有一定的参考借鉴价值,需要的朋友可以...

    陌上千寻雪9422020-12-28
  • Redisredis命令行查看中文不乱码的方法(十六进制字符串处理)

    redis命令行查看中文不乱码的方法(十六进制字符串处理)

    这篇文章主要给大家介绍了关于redis命令行查看中文不乱码的方法,其中详细介绍了十六进制字符串处理的相关资料,文中给出了详细的示例代码,供大家...

    大大的微笑2402019-11-10