Redis之内存管理过期、淘汰机制

1.Redis内存管理

我们的redis是一个内存型数据库，我们的数据也都是放在内存中的，内存是有限的空间，当数据满了之后，我们要怎么样继续保证redis的可用性呢?我们就需要采取点管理措施和机制来保证我们redis的可用性。

在redis.conf中通过maxmemory来配置

maxmemory 100mb // 如果配置是0 那么默认是电脑的内存，如果是32bit 隐式大小为3G

在Redis中有两个核心的机制来保证我们的可用性: Redis过期策略、Redis淘汰机制

2. Redis过期策略

那么什么是过期策略。首先，我们知道Redis有一个特性，就是Redis中的数据我都是可以设置过期时间的，如果时间到了，这个数据就会从我们的Redis中删除。

那么过期策略，就是讲的是我怎么把Redis中过期的数据从我们Redis服务中移除的。

我们可以类比一个例子，假如我们把Redis容器比作一个冰箱。冰箱里面也会放菜，菜就是我们的数据，数据跟菜都会过期。那么我们冰箱里面假如有菜过期了，我们一般是怎么发现的呢?

2.1 惰性过期

我们在准备拿冰箱里的食物吃的时候，我们就会先去看下，这个东西有没有过期，如果过期了就仍掉。

那么在Redis里面，就是每次在访问操作key的时候，判断这个key是不是过期了，如果过期了就删除。

源码验证 expireIfNeeded方法(db.c文件)

int expireIfNeeded(redisDb *db, robj *key) {if (!keyIsExpired(db,key)) return 0;/* If we are running in the context of a slave,instead of* evicting the expired key from the database, wereturn ASAP:* the slave key expiration is controlled by themaster that will* send us synthesized DEL operations for expiredkeys.** Still we try to return the right information to thecaller,* that is, 0 if we think the key should be stillvalid, 1 if* we think the key is expired at this time. *///如果配置有masterhost，说明是从节点，那么不操作删除if (server.masterhost != NULL) return 1;/* Delete the key */server.stat_expiredkeys++;propagateExpire(db,key,server.lazyfree_lazy_expire);notifyKeyspaceEvent(NOTIFY_EXPIRED,"expired",key,db->id);//是否是异步删除 防止单个Key的数据量很大 阻塞主线程 是4.0之后添加的新功能，默认关闭int retval = server.lazyfree_lazy_expire ?dbAsyncDelete(db,key) :dbSyncDelete(db,key);if (retval) signalModifiedKey(NULL,db,key);return retval;
}

每次调用到相关指令时，才会执行expireIfNeeded判断是否过期。平时不会判断是否过期。

优点: 该策略就可以最大化地节省CPU资源，因为它平时都懒得都判断，所以也没有啥cpu损耗，只有访问的时候我才会去判断一下

缺点: 对内存非常不友好。因为如果没有再次访问，该过期删除的就可能一直堆积在内存里面!从而不会被清除，占用大量内存。

所以我们需要另外一种策略来配合使用，解决内存占用问题。就是我们的定期过期

2.2 定期过期

所谓定期过期，就是我们会每个星期或者每个月去清理一次冰箱，把冰箱里面过期的菜全部扔掉。

在Redis中，就是我也会定期去把过期的数据删除。

那么究竟多久去清除一次呢，我们在讲rehash的时候Redis数据结构扩容源码分析_redis数据结构扩容机制-CSDN博客有个方法是serverCron,执行频率根据redis.conf中的hz配置

这方法除了做Rehash以外，还会做很多其它的事情，比如

清理数据库中的过期键值对
更新服务器的各类统计信息，比如时间、内存占用、数据库占用情况等
关闭和清理连接失效的客户端
尝试进行持久化操作

我们知道了多久会去扫描一下，那么接下来我们需要知道具体是怎么扫的

具体实现流程如下:

1. 定时serverCron方法去执行清理，执行频率根据redis.conf中的hz配置的值

2. 执行清理的时候，不是去扫描所有的key，而是去扫描所有设置了过期时间的key（redisDb.expires）

3. 如果每次去把所有过期的key都拿过来，那么假如过期的key很多，就会很慢，所以也不是一次性拿取所有的key

4. 根据hash桶的维度去扫描key，扫到20(可配)个key为止。假如第一个桶是15个key ，没有满足20，继续扫描第二个桶，第二个桶20个key，由于是以hash桶的维度扫描的，所以第二个扫到了就会全扫，总共扫描 35个key

5. 找到扫描的key里面过期的key，并进行删除

6. 如果取了400个空桶，或者扫描的删除比例跟扫描的总数超过10%,继续执行4、5步。

7. 也不能无限的循环，循环16次后回去检测时间，超过指定时间会跳出。

实现流程图如下:

3.Redis淘汰机制

由于Redis内存是有大小的，并且我可能里面的数据都没有过期，当快满的时候，我又没有过期的数据进行淘汰，那么这个时候内存也会满。内存满了之后，redis也会放不了新的数据了。

所以，我们不得已需要一些策略来解决这个问题来保证可用性。

类比冰箱扔菜

如果我们发现冰箱的菜满了，但是冰箱里的菜都是好的，那你会咋办?

a. 不放入新的，但是可以拿出来吃 -- noeviction

b. 扔掉很久没有吃的 ---LRU

c. 扔掉很少吃的 -----lfu

d. 扔掉即将快过期的 --- ttl

那么在Redis中究竟是怎么处理的呢?

noeviction: New values aren’t saved when memory limit is reached. When a database uses replication, this applies to the primary database 默认，不淘汰能读不能写

allkeys-lru: Keeps most recently used keys; removes least recently used (LRU) keys 基于伪LRU算法在所有的key中去淘汰

allkeys-lfu: Keeps frequently used keys; removes least frequently used (LFU) keys 基于伪LFU算法在所有的key中去淘汰

volatile-lru: Removes least recently used keys with the expire field set to true . 基于伪LRU算法在设置了过期时间的key中去淘汰

volatile-lfu: Removes least frequently used keys with the expire field set to true . 基于伪LFU算法在设置了过期时间的key中去淘汰

allkeys-random: Randomly removes keys to make space for the new data added. 基于随机算法在所有的key中去淘汰

volatile-random: Randomly removes keys with expire field set to true . 基于随机算法在设置了过期时间的key中去淘汰

volatile-ttl: Removes least frequently used keys with expire field set to true and the shortest remaining time-to-live (TTL) value. 根据过期时间来，淘汰即将过期的

上述是官网给我们提供了8种不同的策略，只要在config配置中配置maxmemory-policy即可指定相关的淘汰策略

# maxmemory-policy noeviction //默认不淘汰数据，能读不能写

那么现在我们已经知道了有不同的方式去淘汰，那么整个的淘汰流程又是什么呢?LRU跟LFU算法又是什么呢?

3.1 淘汰流程

如上图所示

1.首先，我们会有个淘汰池，默认大小是16，并且里面的数据是末尾淘汰制。

2.每次指令操作的时候，自旋会判断当前内存是否满足指令所需要的内存

3.如果当前内存不能满足，会从淘汰池中的尾部拿取一个最适合淘汰的数据

        3.1 会取样（配置 maxmemory-samples）从Redis中获取随机获取到取样的数据解决一次性读取所有的数据慢的问题

        3.2 在取样的数据中，根据淘汰算法找到最适合淘汰的数据

        3.3 将最合适的那个数据跟淘汰池中的数据比较，是否比淘汰池中的更适合淘汰，如果更适合，放入淘汰池

        3.4 按照适合的程度进行排序，最适合淘汰的放入尾部

4.将需要淘汰的数据从Redis删除，并且从淘汰池移除。

3.2 LRU算法

LRU, least Recently Used 翻译过来是最久未使用，根据时间轴来走，仍很久没用的数据。只要最近有用过，我就默认是有效的。

那么它的一个衡量标准是什么呢?事件对不对!根据使用事件，从近到远，越远的越容易淘汰

实现原理

首先，LRU是根据这个对象的访问操作时间来进行淘汰的，那我们需要知道这个对象最后的操作访问时间。
知道了对象的最后操作访问时间后，我们只需要跟当前的系统时间来进行对比，就能计算出对象已经多久没有访问了

源码验证

在Redis中，对象都会被一个redisObject对象包装，这个对象就是我们redis的所有数据结构的对外对象!那么它里面有个字段叫做lru

redisObject对象(server.h文件)

typedef struct redisObject {
unsigned type:4;
unsigned encoding:4;
unsigned lru:LRU_BITS; /* LRU time (relative to global
lru_clock) or
\* LFU data (least significant 8 bits frequency
\* and most significant 16 bits access time). */
int refcount;
void *ptr;
} robj;

lru这个字段的大小为24bit,那么这个字段记录的是对象操作访问时候的秒单位时间的后24bit

long timeMillis=System.currentTimeMillis();
System.out.println(timeMillis/1000); //获取当前秒
System.out.println(timeMillis/1000 & ((1<<24)-1)); //获取秒的后24位

我们知道了这个对象的最后操作访问的时间。如果我们要得到这个对象多久没访问了，我们是不是就很简单，用我当前的时间-这个对象的访问时间就可以了！！！但是这个访问时间是秒单位时间的后24bit！所以，也是用当前时间的秒单位的后24bit去减!

假如我们lrulock=当前时间的秒单位的最后24bit

那么我们如果要得到这个对象多久没访问只需要: lrulock - redisObject.lru

但是我们就会发现一个问题: 24bit是有大小限制的，最大是24个1，那么假如时间一直往前走，这个系统时间的最后24bit肯定会变成24个0

举个例子

11111111111111111000000000011111110 假如这个是我当前秒单位的时间，

获取后8位是 11111110

11111111111111111000000000011111111

获取后8位是 11111111

11111111111111111000000000100000000

获取后8位是 00000000 但是比上面的那个二进制肯定要大

所以，它有个轮询的概念，它如果超过24位，又会从0开始!所以我们不能直接用系统时间秒单位的24bit去减对象的lru，而是要判断一下，怎么判断

举个生活中的例子

我们的月份，跟我们的24bit的值是一样的，都有最大值，只不过月份的最大值是12。

场景一：数据在5月份被操作访问，现在是8月份我们可通过：8-5=3 得到这个对象3个月没访问

场景二：数据在5月份被操作访问，现在是3月份我们可通过： 12-5+3 得到这个对象10个月没访问

同理

如果redisObject.lru<lrulock,直接通过lrulock-redisObject.lru得到这个对象多久没访问

如果redisObject.lru>lrulock,通过lrulock + （24bit的最大值-redisObject.lru）

源码验证

estimateObjectIdleTime方法(evict.c)

unsigned long long estimateObjectIdleTime(robj *o) {//获取秒单位时间的最后24位unsigned long long lruclock = LRU_CLOCK();//因为只有24位，所有最大的值为2的24次方-1//超过最大值从0开始，所以需要判断lruclock（当前系统时间）跟缓存对象的lru字段的大小if (lruclock >= o->lru) {//如果lruclock>=robj.lru，返回lruclock-o->lru，再转换单位return (lruclock - o->lru) * LRU_CLOCK_RESOLUTION;} else {//否则采用lruclock + (LRU_CLOCK_MAX - o->lru)，得到对象的值越小，返回的值越大，越大越容易被淘汰return (lruclock + (LRU_CLOCK_MAX - o->lru)) *LRU_CLOCK_RESOLUTION;}
}

整体流程图:Redis LRU算法实现| ProcessOn免费在线作图,在线流程图,在线思维导图

总结

用lrulock与redisObject.lru进行比较，因为Lrulock只获取了当前秒单位时间的后24位，所以肯定有个轮询

所以，我们会用lrulock跟redisObject.lru进行比较，如果lrulock>redisObject.lru，那么我们用lrulock-redisObject.lru，否则lrulock+(24bit的最大值-redisObject.lru),得到的lru越小，那么返回的数据越大，相差越大的越优先会被淘汰!

3.3 LFU算法

LFU，Least Frequently Used,翻译成中文就是最不常用的优先淘汰。

不常用，它的衡量标准就是次数，次数越少的越容易被淘汰

这个实现起来应该也很简单，对象被操作访问的时候，去记录次数，每次操作访问一次，就+1;淘汰的时候，直接去比较这个次数，次数越少的越容易淘汰

LFU的时效性问题

但是LFU有个致命的问题，那就是时效性问题。何为时效性?就是只考虑数量，不考虑时间

举个生活中的例子:

假如去年有个新闻很火，比如之前的吴亦凡事件，假如点击量是3000W

那么今年又有个新闻，刚出来，点击量是100次

本来，我们应该是要让今年的这个新闻显示出来的，吴亦凡虽然去年很火，但是由于时间久了，我肯定是不希望上热搜的。

但是根据LFU来做的话，我们发现淘汰的却是今年的新闻，这个明显是不合理的。

导致的问题就是: 新的数据进不去，旧的数据出不来

Redis肯定也是知道这个问题的，那么Redis是怎么解决的呢?

上面的RedisObject中的lru字段有注释:

它前面16bit代表的是时间，后8位代表的是一个数值，frequency是频率，代表的是这个对象的访问次数。

前16bit时间有什么用呢?大胆猜测应该是跟时效性有关的，那么究竟是怎么解决的呢?

我们再来看个生活中的例子

大家应该充过一些会员，比如我这个年纪的，小时候喜欢充腾讯的黄钻、绿钻、蓝钻等等。

但是有一个点，假如哪天我没充钱了的话，或者没有续VIP的时候，我这个钻石等级会随着时间的流失而降低。比如我本来是黄钻V6，但是一年不充钱的话，可能就变成了V4。

那么有了这个例子，在redis中，我们是不是也可以猜测: 这个时间是记录的这个对象有多久没访问了，如果超过了多久没访问，就去减少对应的次数。

源码验证:

LFUDecrAndReturn方法(evict.c)

unsigned long LFUDecrAndReturn(robj *o) {
//lru字段右移8位，得到前面16位的时间
unsigned long ldt = o->lru >> 8;
//lru字段与255进行&运算（255代表8位的最大值），
//得到8位counter值
unsigned long counter = o->lru & 255;
//如果配置了lfu_decay_time，用LFUTimeElapsed(ldt) 除以配置的值
//LFUTimeElapsed(ldt)源码见下
//总的没访问的分钟时间/配置值，得到每分钟没访问衰减多少
unsigned long num_periods = server.lfu_decay_time ?
LFUTimeElapsed(ldt) / server.lfu_decay_time : 0;
if (num_periods)
//不能减少为负数，非负数用couter值减去衰减值
counter = (num_periods > counter) ? 0 : counter -
num_periods;
return counter;
}

衰减因子的配置

lfu-decay-time 1 //多少分钟没操作访问就去衰减一次

后8bits的次数，最大值是255，肯定不够，但是我们可以让数据达到255很难，就是每个数值都是访问了多少次才+1，那么redis究竟是怎么做的呢?

LFULoglncr方法(evict.c文件)

uint8_t LFULogIncr(uint8_t counter) {//如果已经到最大值255，返回255 ，8位的最大值if (counter == 255) return 255;//得到随机数（0-1）double r = (double)rand()/RAND_MAX;//LFU_INIT_VAL表示基数值（在server.h配置） 默认为5double baseval = counter - LFU_INIT_VAL;//如果达不到基数值，表示快不行了，baseval =0if (baseval < 0) baseval = 0;//如果快不行了，肯定给他加counter//不然，按照几率是否加counter，同时跟baseval与lfu_log_factor相关//都是在分子，所以2个值越大，加counter几率越小double p = 1.0/(baseval*server.lfu_log_factor+1);if (r < p) counter++;return counter;
}

所以，LFU加的逻辑我们可以总结下: