文章目录
- Redis内存策略
- 过期策略
- DB结构
- 惰性删除
- 周期删除
- 淘汰策略
Redis内存策略
Redis是基于内存存储,所以其性能很强。但单节点的Redis内存不宜过大,否则会影响持久化或主从同步性能。
可以手动修改配置文件来设置Redis的最大内存
# 格式: maxmemory <bytes>
maxmemory 1gb
如果内存使用达到了上限,就无法存储更多的数据了。
Redis为尽量避免内存达到上限,提供了两种策略:过期策略、淘汰策略。
过期策略
在Redis缓存中,可以通过expire命令为redis的key设置TTL(过期时间,或存活时间)。
当key的TTL到期之后,再次访问key是返回的值为nil(空),说明这个key就已经不存在了,其对应的内存也得到了释放,从而起到了内存回收的目的。
DB结构
Redis本身就是一个很经典的key-value内存存储数据库,因此所有的key、value都保存在Dict结构中。不过在其database结构体中,有两个Dict,一个记录key-value,另一个记录key-TTL。
源码
typedef struct redisDb {dict *dict; /* 存放所有key及value的地方,也被称为keyspace*/dict *expires; /* 存放每一个key及其对应的TTL存活时间,只包含设置了TTL的key*/dict *blocking_keys; /* Keys with clients waiting for data (BLPOP)*/dict *ready_keys; /* Blocked keys that received a PUSH */dict *watched_keys; /* WATCHED keys for MULTI/EXEC CAS */int id; /* Database ID,0~15 */long long avg_ttl; /* 记录平均TTL时长 */unsigned long expires_cursor; /* expire检查时在dict中抽样的索引位置. */list *defrag_later; /* 等待碎片整理的key列表. */
} redisDb;
结构流程图:
惰性删除
**惰性删除:**并不是在TTL到期后就立刻删除key,而是在访问一个key的时候,检查该key的存活时间,如果已经过期才执行删除。
// 查找一个key执行写操作
robj *lookupKeyWriteWithFlags(redisDb *db, robj *key, int flags) {// 检查key是否过期expireIfNeeded(db,key);return lookupKey(db,key,flags);
}
// 查找一个key执行读操作
robj *lookupKeyReadWithFlags(redisDb *db, robj *key, int flags) {robj *val;// 检查key是否过期 if (expireIfNeeded(db,key) == 1) {// ...略}return NULL;
}int expireIfNeeded(redisDb *db, robj *key) {// 判断是否过期,如果未过期直接结束并返回0if (!keyIsExpired(db,key)) return 0;// ... 略// 删除过期keydeleteExpiredKeyAndPropagate(db,key);return 1;
}
这种删除策略,会存在一个问题:如果一个key过期了就再也没有被访问过,则这个key就永远不会被删除。在极端情况下,当大量的key出现这种情况,也会对内存造成很大的压力。
周期删除
周期删除:顾明思议是通过一个定时任务,周期性的抽样部分过期的key,然后执行删除。执行周期有两种:
-
Redis服务初始化函数initServer()中设置定时任务,按照server.hz的频率来执行过期key清理,模式为SLOW。
// server.c void initServer(void){// ...// 创建定时器,关联回调函数serverCron,处理周期取决于server.hz,默认10aeCreateTimeEvent(server.el, 1, serverCron, NULL, NULL) }// server.c int serverCron(struct aeEventLoop *eventLoop, long long id, void *clientData) {// 更新lruclock到当前时间,为后期的LRU和LFU做准备unsigned int lruclock = getLRUClock();atomicSet(server.lruclock,lruclock);// 执行database的数据清理,例如过期key处理databasesCron(); }void databasesCron(void) {// 尝试清理部分过期key,清理模式默认为SLOWactiveExpireCycle(ACTIVE_EXPIRE_CYCLE_SLOW); }
-
Redis的每个事件循环前会调用beforeSleep()函数,执行过期key清理,模式为FAST。
void beforeSleep(struct aeEventLoop *eventLoop){// ...// 尝试清理部分过期key,清理模式默认为FASTactiveExpireCycle(ACTIVE_EXPIRE_CYCLE_FAST); }void aeMain(aeEventLoop *eventloop){eventLoop->stop = 0;while(!eventLoop->stop){// beforeSleep() --> Fast模式快速清理// n = aeApiPoll()// 如果n > 0,FD就绪,处理IO事件。// 如果到了执行时间,则调用serverCron() --> SLOW模式清理} }
周期清理的两种模式:
SLOW模式规则:
① 执行频率受server.hz影响,默认为10,即每秒执行10次,每个执行周期100ms。
② 执行清理耗时不超过一次执行周期的25%.默认slow模式耗时不超过25ms。
③ 逐个遍历db,逐个遍历db中的bucket,抽取20个key判断是否过期。
④ 如果没达到时间上限(25ms)并且过期key比例大于10%,再进行一次抽样,否则结束。
FAST模式规则(过期key比例小于10%不执行):
① 执行频率受beforeSleep()调用频率影响,但两次FAST模式间隔不低于2ms。
② 执行清理耗时不超过1ms。
③ 逐个遍历db,逐个遍历db中的bucket,抽取20个key判断是否过期。
④ 如果没达到时间上限(1ms)并且过期key比例大于10%,再进行一次抽样,否则结束。
淘汰策略
内存淘汰:当Redis内存使用达到设置的阈值时,Redis会主动挑选部分key将其删除释放更多内存。
Redis会在处理客户端命令的方法processCommand()中尝试做内存淘汰。
int processCommand(client *c) {// 如果服务器设置了server.maxmemory属性,并且并未有执行lua脚本if (server.maxmemory && !server.lua_timedout) {// 尝试进行内存淘汰performEvictionsint out_of_memory = (performEvictions() == EVICT_FAIL);// ...if (out_of_memory && reject_cmd_on_oom) {rejectCommand(c, shared.oomerr);return C_OK;}// ....}
}
Redis支持8种不同策略来选择要删除的key:
- noeviction:不淘汰任何key,但是内存满时不允许写入新数据(默认)。
- volatile-ttl:对设置了TTL的key,比较key的剩余TTL值,TTL越小越先被淘汰。
- allkeys-random:对全体key ,随机进行淘汰。也就是直接从db->dict中随机挑选。
- volatile-random:对设置了TTL的key ,随机进行淘汰。也就是从db->expires中随机挑选。
- allkeys-lru: 对全体key,基于LRU算法进行淘汰。
- volatile-lru: 对设置了TTL的key,基于LRU算法进行淘汰。
- allkeys-lfu: 对全体key,基于LFU算法进行淘汰。
- volatile-lfu: 对设置了TTL的key,基于LFI算法进行淘汰。
LRU(Least Recently Used),最少最近使用。用当前时间减去最后一次访问时间,这个值越大则淘汰优先级越高。
LFU(Least Frequently Used),最少频率使用(最近最少使用)。会统计每个key的访问频率,值越小淘汰优先级越高。
Redis的数据都会被封装成RedisObject结构:
typedef struct redisObject {unsigned type:4; // 对象类型unsigned encoding:4; // 编码方式unsigned lru:LRU_BITS; // LRU:以秒为单位记录最近一次访问时间,长度24bit// LFU:高16位以分钟为单位记录最近一次访问时间,低8位记录逻辑访问次数int refcount; // 引用计数,计数为0则可以回收void *ptr; // 数据指针,指向真实数据
} robj;
逻辑访问次数:并不是每次key被访问都计数,而是通过下面的步骤计算得来:
- 生成一个0~1之间的随机数。
- 计算 (旧次数 * lfu_log_factor + 1),记录为P(lfu_log_factor默认为10)。
- 如果 R < P ,则计数器 + 1,且最大不超过255。
- 访问次数会随时间衰减,距离上一次访问时间每隔 lfu_decay_time 分钟(默认为1),计数器 - 1。
淘汰策略流程图: