Linux内存管理:(九)内存规整

文章说明:

  • Linux内核版本:5.0

  • 架构:ARM64

  • 参考资料及图片来源:《奔跑吧Linux内核》

  • Linux 5.0内核源码注释仓库地址:

    zhangzihengya/LinuxSourceCode_v5.0_study (github.com)

1. 引言

伙伴系统以页面为单位来管理内存,内存碎片也是基于页面的,即由大量离散且不连续的页面组成的。从内核角度来看,出现内存碎片不是好事情,有些情况下物理设备需要大段的连续的物理内存,如果内核无法满足,则会发生内核错误。对于内存碎片化,需要重新规整一下,因此本文叫作内存规整,—些文献中称其为内存紧凑,它是为了解决内核碎片化而出现的一个功能

内核中去碎片化的基本原理是按照页面的可移动性将页面分组。迁移内核本身使用的物理内存的实现难度和复杂度都很大,因此目前的内核不迁移内核本身使用的物理页面。对于用户进程使用的页面,实际上通过用户页表的映射来访问。用户页表可以移动和修改映射关系,不会影响用户进程,因此内存规整是基于页面迁移实现的

2. 内存规整的基本原理

在 Linux 2.6.24 内核中集成了社区专家 Mel Gorman 的 Anti-fragmentation 补丁,其核心思想是把内存页面按照可移动、可回收、不可移动等特性进行分类。可移动的页面通常是指用户态程序分配的内存,移动这些页面仅仅需要修改页表映射关系,代价很低;可回收的页面是指不可以移动但可以释放的页面。按照这些类型分类页面后,就容易释放出大块的连续物理内存。

内存规整机制(如下图所示):有两个方向的扫描者,一个从zone头部向zone尾部方向扫描,查找哪些页面是可以迁移的;另一个从zone尾部向zone头部方面扫描,查找哪些页面是空闲页面。当这两个扫描者在zone中间碰头或者已经满足分配大块内存 的需求时(能分配出所需要的大块内存并且满足最低的水位要求),就可以退出扫描了。

在这里插入图片描述

Linux 内核中触发内存规整的途径

  • 手动触发。通过写1到 /proc/sys/vm/compact_memory 节点,会手动触发内存规整。它会扫描系统中所有的内存节点上的 zone,对每个 zone 都会做一次内存规整。
  • kcompactd 内核线程。和页面回收 kswapd 内核线程—样,每个内存节点会创建一个 kcompactd 内核线程,名称为”kcompactd0”“kcompactd1”等。
  • 直接内存规整。和页面回收—样,当页面分配器发现在低水位情况下无法满足页面分配时,会进入慢速路径。在慢速路径里,除了唤醒 kswapd 内核线程外,还会调用函数 __alloc_pages_direct_compact(),尝试整合出一大块空闲内存。

注意:页面回收是基于内存节点的,而内存规整机制是基于zone来进行扫描和规整的

3. 直接内存规整

内存规整的一个重要的应用场景是在分配大块连续物理内存(order> 1),低水位(WMARK_LOW)情况下分配失败时,唤醒 kswapd 内核线程,但依然无法分配出内存,因此调 用 __alloc_pages_direct_compact() 来压缩内存,并尝试分配出所需要的内存,这个过程如下图所示。

在这里插入图片描述

紧接着,__alloc_pages_direct_compact():

// 压缩内存,并尝试分配出所需要的内存
// gfp_mask: 传递给页面分配器的分配掩码
// order: 请求分配页面的大小,其大小为 2 的 order 次幂个物理页面
// alloc_flags: 页面分配器内部使用的分配标志位
// ac: 页面分配器内部使用的分配上下文描述符
// prio: 内存规整的优先级
// compact_result: 内存规整后返回的结果
static struct page *
__alloc_pages_direct_compact(gfp_t gfp_mask, unsigned int order,unsigned int alloc_flags, const struct alloc_context *ac,enum compact_priority prio, enum compact_result *compact_result)
{...// 遍历内存节点中所有的 zone ,在每个 zone 上进行内存规整*compact_result = try_to_compact_pages(gfp_mask, order, alloc_flags, ac,prio);...// 尝试分配内存page = get_page_from_freelist(gfp_mask, order, alloc_flags, ac);...return NULL;
}

__alloc_pages_direct_compact()->try_to_compact_pages():

enum compact_result try_to_compact_pages(gfp_t gfp_mask, unsigned int order,unsigned int alloc_flags, const struct alloc_context *ac,enum compact_priority prio)
{...// 首先遍历内存节点中所有的 zone ,然后在每个 zone 上调用 compact_zone_order() 函数进行内存规整for_each_zone_zonelist_nodemask(zone, z, ac->zonelist, ac->high_zoneidx,ac->nodemask) {...status = compact_zone_order(zone, order, gfp_mask, prio,alloc_flags, ac_classzone_idx(ac));...}return rc;
}

__alloc_pages_direct_compact()->try_to_compact_pages()->compact_zone_order():

// 初始化内部使用的 compact_control 数据结构,然后调用 compact_zone 进行内存规整
static enum compact_result compact_zone_order(struct zone *zone, int order,gfp_t gfp_mask, enum compact_priority prio,unsigned int alloc_flags, int classzone_idx)
{...struct compact_control cc = {.nr_freepages = 0,.nr_migratepages = 0,.total_migrate_scanned = 0,.total_free_scanned = 0,.order = order,.gfp_mask = gfp_mask,.zone = zone,.mode = (prio == COMPACT_PRIO_ASYNC) ?MIGRATE_ASYNC :	MIGRATE_SYNC_LIGHT,.alloc_flags = alloc_flags,.classzone_idx = classzone_idx,.direct_compaction = true,.whole_zone = (prio == MIN_COMPACT_PRIORITY),.ignore_skip_hint = (prio == MIN_COMPACT_PRIORITY),.ignore_block_suitable = (prio == MIN_COMPACT_PRIORITY)};...ret = compact_zone(zone, &cc);...return ret;
}

__alloc_pages_direct_compact()->try_to_compact_pages()->compact_zone_order()->compact_zone():

// 内存规整的核心函数,主要用于“兵分两路”扫描一个 zone,找出可以迁移的页面以及空闲页面。这两路“兵”会在 zone 的中间汇合,
// 然后调用页面迁移的接口函数进行页面迁移,最终整理出大块空闲页面
// zone:表示待扫描的 zone
// cc:表示内存规整中内部使用的控制参数(这个参数需要被调用者初始化)
static enum compact_result compact_zone(struct zone *zone, struct compact_control *cc)
{...// compaction_suitable() 主要根据当前的 zone 水位来判断是否需要进行内存规整ret = compaction_suitable(zone, cc->order, cc->alloc_flags,cc->classzone_idx);...// 内存规整的核心处理部分// compact_finished() 函数用于判断内存规整是否可以结束了,内存规整结束的条件有两个://	1. cc->migrate_pfn 和 cc->free_pfn 两个指针相遇(这两个指针从 zone 的一头一尾向中间方向运行)// 	2. 判断 zone 里面 order 对应的迁移类型的空闲链表是否有成员(zone->free_area[order].free_list//	   [MIGRATE_MOVABLE]),最好 order 对应的 free_area 链表中正好有成员,即有空闲页块,或者大于//     order 的空闲链表里有空闲页块,或者大于 pageblock_order 的空闲链表中有空闲页块。若对应的迁移//     类型中的空闲链表没有空闲对象,那么假设可以从其他迁移类型中“借”一些空闲块过来while ((ret = compact_finished(zone, cc)) == COMPACT_CONTINUE) {...// isolate_migratepages() 用于扫描并且寻觅 zone 中可迁移的页面,可迁移的页面会被添加到 cc->// migratepages 链表中switch (isolate_migratepages(zone, cc)) {...}// migrate_pages() 是页面迁移的核心函数,从 cc->migratepages 链表中获取页面,然后尝试迁移页面 err = migrate_pages(&cc->migratepages, compaction_alloc,compaction_free, (unsigned long)cc, cc->mode,MR_COMPACTION);}...(代码逻辑如下图所示)
}

在这里插入图片描述

__alloc_pages_direct_compact()->try_to_compact_pages()->compact_zone_order()->compact_zone()->isolate_migratepages():

// 主要作用是扫描并且寻觅 zone 中可迁移的页面,扫描步长是按照页块大小来进行的
// zone:表示正在扫描的 zone
// cc:表示内存规整的内部使用的控制参数
static isolate_migrate_t isolate_migratepages(struct zone *zone,struct compact_control *cc)
{...// isolate_mode 表示分离模式,判断是否支持异步分离模式(ISOLATE_ASYNC_MIGRATE)const isolate_mode_t isolate_mode =(sysctl_compact_unevictable_allowed ? ISOLATE_UNEVICTABLE : 0) |(cc->mode != MIGRATE_SYNC ? ISOLATE_ASYNC_MIGRATE : 0);// cc->migrate_pfn 表示上次扫描结束时的页帧号,然后从这次 cc->migrate_pfn 开始扫描low_pfn = cc->migrate_pfn;// pageblock_start_pfn() 表示向页块起始地址对齐block_start_pfn = pageblock_start_pfn(low_pfn);// block_start_pfn 表示这次扫描的起始页帧号if (block_start_pfn < zone->zone_start_pfn)block_start_pfn = zone->zone_start_pfn;...// 以 block_end_pfn 为起始页帧号开始扫描,查找的步长以 pageblock_nr_pages 为单位// Linux 内核以页块为单位来管理页的迁移属性for (; block_end_pfn <= cc->free_pfn;low_pfn = block_end_pfn,block_start_pfn = block_end_pfn,block_end_pfn += pageblock_nr_pages) {...// pageblock_pfn_to_page() 函数返回这个页块中第一个物理页面的 page 数据结构page = pageblock_pfn_to_page(block_start_pfn, block_end_pfn,zone);...// 判断页块的迁移类型// 对于异步类型的内存规整,只支持迁移类型为可移动(MOVABLE)的页块// 对于同步模式的内存规整,要判断页块迁移类型。若当前的页块的迁移类型和请求页面的迁移类型不一致,那么会跳过这个页块if (!suitable_migration_source(cc, page))continue;// isolate_migratepages_block() 函数对页块里的页面执行分离任务low_pfn = isolate_migratepages_block(cc, low_pfn,block_end_pfn, isolate_mode);...}...
}

__alloc_pages_direct_compact()->try_to_compact_pages()->compact_zone_order()->compact_zone()->isolate_migratepages()->isolate_migratepages_block():

在这里插入图片描述

由上图可知,和页面迁移类似,有两类页面适合做内存规整:

  • 传统的LRU页面,如匿名页面和文件映射页面
  • 非LRU页面,即特殊的可以迁移的页面,如根据zsmalloc机制和virtio-balloon机制分配的页面

但是对于传统的LRU页面,并不是所有的页面都适合做内存规整,有一些特殊的情况我们需要考虑:

  • 在伙伴系统中的页面
  • 混合页面
  • 不在LRU链表中的页面
  • 被锁住的匿名页面
  • 对于异步模式来说,获取zone->zone_pgdat->lru_lock自旋锁失败的页面
  • 标记了PG_unevictable的页面不适合
  • 对于异步模式来说,正在回写中的页面(标记了PG_writeback的页面)不适合
  • 对于异步模式来说,没有定义mapping->a_ops->migratepage()方法的脏页不合适

上述这些特殊情况的LRU页面也不适合做内存迁移。

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.mzph.cn/news/637255.shtml

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈email:809451989@qq.com,一经查实,立即删除!

相关文章

leetcode:每日温度---单调栈

题目&#xff1a; 给定一个整数数组 temperatures &#xff0c;表示每天的温度&#xff0c;返回一个数组 answer &#xff0c;其中 answer[i] 是指对于第 i 天&#xff0c;下一个更高温度出现在几天后。如果气温在这之后都不会升高&#xff0c;请在该位置用 0 来代替。 示例&…

js数组的截取和合并

在JavaScript中&#xff0c;你可以使用slice()方法来截取数组&#xff0c;使用concat()方法来合并数组。 截取数组 slice()方法返回一个新的数组对象&#xff0c;这个对象是一个由原数组的一部分浅复制而来。它接受两个参数&#xff0c;第一个参数是开始截取的位置&#xff08…

代码随想录day24

回溯算法 回溯的本质是穷举&#xff0c;穷举所有可能&#xff0c;然后选出我们想要的答案&#xff0c;如果想让回溯法高效一些&#xff0c;可以加一些剪枝的操作。 回溯法&#xff0c;一般可以解决如下几种问题&#xff1a; 1、组合问题&#xff1a;N个数里面按一定规则找出k个…

天龙八部资源提取工具(提取+添加+修改+查看+教程)

可以提取&#xff0c;添加&#xff0c;修改&#xff0c;查看天龙八部里面的数据。非常好用。 天龙八部资源提取工具&#xff08;提取添加修改查看教程&#xff09; 下载地址&#xff1a; 链接&#xff1a;https://pan.baidu.com/s/1XOMJ1xvsbD-UUQOv3QfHPQ?pwd0kd0 提取码&…

赛车游戏简单单车C语言版

#include<stdio.h> #include<easyx.h> #include<time.h>#define WIDTH 512 #define HEIGHT 768//定义一个汽车类 struct FCar {//坐标float x, y;// 汽车种类int type;//汽车速度float speed; };//定义全局变量 图片坐标 IMAGE BG_IMG; //背景图片坐标 float…

unity 矩阵探究

public void MatrixTest1(){ ///Matrix4x4 是列矩阵&#xff0c;就是一个vector4表示一列&#xff0c;所以在c#中矩阵和Vector4只能矩阵右乘坐标。但是在shader中是矩阵左乘坐标&#xff0c;所以在shader中是行矩阵 Matrix4x4 moveMatrix1 new Matrix4x4(new Vector4(1,0,0,0)…

pip问题们

pip问题们 下载指定版本已经安装的库列表保存到文本文件中根据依赖文件批量安装库离线安装库&#xff08; .whl 文件&#xff09;pip install githttps:xxxx安装失败解决方法 下载指定版本 安装特定版本的package&#xff0c;通过使用, >, <, >, <来指定一个版本号…

hql(hive sql)中的join及踩过的坑

1 几种join方式 join join对应于inner join 内连接。 当多张表进行join的时候&#xff0c;所有表中与on条件中匹配的数据才会显示。 hql&#xff08;即hive sql&#xff09;的on子句中只支持and&#xff0c;不支持 or&#xff0c;也不支持null的对比。 left outer join 左外连…

2024 年 Vue.js 会发生什么

就像前端开发世界的其他部分一样&#xff0c;Vue 世界发展得很快。在这篇文章中&#xff0c;我想了解一下 Vue 的现状&#xff0c;并分享我对 2024 年发展趋势的预测。 Vue 2 生命周期结束 随着 Vue.js 社区的不断发展&#xff0c;2024 年标志着 Vue 2 生命周期的结束&#x…

logstack 日志技术栈-04-opensource 开源工具 SigNoz+Graylog

3. SigNoz SigNoz 是一个日志收集和分析工具&#xff0c;可以收集和管理来自各种来源的日志、指标、跟踪和异常。 它为使用 OpenTelemetry 检测应用程序提供本机支持&#xff0c;以防止供应商锁定&#xff0c;将收集到的数据存储在 ClickHouse 中&#xff0c;然后在用户友好的…

【实战】SpringBoot自定义 starter及使用

文章目录 前言技术积累SpringBoot starter简介starter的开发步骤 实战演示自定义starter的使用写在最后 前言 各位大佬在使用springboot或者springcloud的时候都会根据需求引入各种starter&#xff0c;比如gateway、feign、web、test等等的插件。当然&#xff0c;在实际的业务…

大模型 RAG 优化 收集一

痛点1&#xff1a;文档切分粒度不好把控&#xff0c;既担心噪声太多又担心语义信息丢失 问题1&#xff1a;如何让LLM简要、准确回答细粒度知识&#xff1f; 问题2&#xff1a;如何让LLM回答出全面的粗粒度&#xff08;跨段落&#xff09;知识&#xff1f; 分析&#xff1a;文…

灵活扩展:深入理解MyBatis插件机制

第1章&#xff1a;MyBatis插件的重要性 大家好&#xff0c;我是小黑&#xff0c;咱们今天要聊的是MyBatis插件&#xff0c;MyBatis&#xff0c;大家都不陌生&#xff0c;它是一个ORM&#xff08;对象关系映射&#xff09;框架&#xff0c;让咱们在操作数据库时能更加优雅。但今…

web漏洞总结大全(基础)

前言 本文章是和cike_y师傅一起写的&#xff0c;cike_y博客&#xff1a;https://blog.csdn.net/weixin_53912233?typeblog 也欢迎大家对本文章进行补充和指正&#xff0c;共同维护这个项目&#xff0c;本文的github项目地址&#xff1a; https://github.com/baimao-box/Sum…

Haxe-UnrealEngine5

Haxe-UnrealEngine5 结论 UE C header > External/**.hx.hx > .h/.cpp&#xff0c;和 UE C 一起编译使用 hxcpp 来调试 .hx good&#xff1a; 理论上不仅限反射代码走 UE C&#xff0c;无需维护 backend&#xff0c;比如 Lua Binding理论上接近 UE C 的性能 bad&…

六、Netty核心模块组件

目录 6.1 BootStrap&#xff0c;ServerBootStrap6.2 Future&#xff0c;ChannelFuture6.3 Channel6.4 Selector6.5 ChannelHandler 以及其实现类6.6 Pipeline 和 ChannelPipeline6.7 ChannelHandlerContext6.8 ChannelOption6.9 EventLoopGroup和其实现类 NioEventLoopGroup6.1…

【leetcode题解C++】454.四数相加II and 383.赎金信 and 15.三数之和 and 18.四数之和

454. 四数相加II 给你四个整数数组 nums1、nums2、nums3 和 nums4 &#xff0c;数组长度都是 n &#xff0c;请你计算有多少个元组 (i, j, k, l) 能满足&#xff1a; 0 < i, j, k, l < nnums1[i] nums2[j] nums3[k] nums4[l] 0 示例 1&#xff1a; 输入&#xff…

激光无人机打击系统——光束控制和指向系统

激光无人机&#xff08;UAV&#xff09;打击系统中的光束控制和指向系统通常包括以下几个关键组件和技术&#xff1a; 激光发射器&#xff1a;这是系统的核心&#xff0c;负责生成高能量的激光束。常用的激光类型包括固体激光器、化学激光器、光纤激光器等&#xff0c;选择取决…

PHP反序列化漏洞-POP链构造

POP链构造 POP链(Property-Oriented Programming)是一种常用于构造特定调用链的方法,用于从现有运行环境中寻找一系列代码或指令调用。它的目的是构成一组连续的调用链,最终达到攻击者恶意利用的目的。POP链实质上是通过控制对象的可控属性来控制程序的执行流程,从而利用…

微软Microsoft推出针对学生的AI练习英语口语工具”阅读教练“:Reading Coach

阅读教练官网链接&#xff1a;https://coach.microsoft.com AI工具专区&#xff1a;AI工具-喜好儿aigc 学生可以通过选择角色和设定&#xff0c;利用AI生成独特的故事&#xff0c;从而激发阅读兴趣并提高阅读流畅度。语音转文本AI能够实时分析学生的阅读流利性&#xff0c;检测…