文章目录
- 1. 前言
- 2. CFS 调度器
- 2.1 概述
- 2.2 一些实现细节
- 2.3 运行队列:红黑树
- 2.4 一些特征
- 2.5 调度策略
- 2.6 调度器类别
- 2.7 扩展:组调度
- 3. 参考资料
1. 前言
限于作者能力水平,本文可能存在谬误,因此而给读者带来的损失,作者不做任何承诺。
2. CFS 调度器
2.1 概述
CFS
,是 Completely Fair Scheduler
的缩写,翻译过来就是 完全公平调度器
,由 Ingo Molnar
实现,在 Linux 2.6.23
中合入的新的 “桌面”
进程调度器。
CFS
调度器 80%
的设计可以用一句话来概括:CFS
基本上是在真实硬件上模拟了一个理想、精确
的多任务
虚拟 CPU
。我们将这个虚拟 CPU
的运行能力定义为 1
,假定当前有 nr_running
个任务在虚拟 CPU
上运行,则每个任务精准的
占用虚拟 CPU
1/nr_running
的运行能力(或 运行时间)
。例如有 2
个任务在运行,假定将 虚拟 CPU
的运行能力设定为 100%
,那么每个任务占用 虚拟 CPU
50%
的运行能力(或 运行时间)
。为了描述方便,在这里先将任务占用的 虚拟 CPU 的运行时间
,称作 虚拟运行时间(virtual runtime)
,这和后文的 物理 CPU
的 物理运行时间
相对应。
在 CFS
调度器中,并非
真的将 物理 CPU
的物理运行能力(或 物理时间)平均分配
给所有可运行任务
,CFS
仍然要处理任务优先级
:即优先级更高的任务,仍然会分配更多 物理 CPU
的物理运行时间
给它们。这看起来似乎和 CFS
调度器的 完全公平调度
宗旨相矛盾,但事实是,CFS
调度器只是尽量保证
每个任务占用的 虚拟运行时间(virtual runtime)
一样,而任务占用的 物理运行时间
,仍然由任务优先级来体现
。正如世界不可能完全公平一样,在 CFS
调度器中,分配给每个任务的 虚拟运行时间(virtual runtime)
,CFS
也只是尽量保证
它们一致
,不可能
达到理想状态的完全一致
。
2.2 一些实现细节
在 CFS
调度器中,虚拟运行时间(virtual runtime)
通过每个任务的 p->se.vruntime
(以纳秒
单位)来表示和跟踪,这样,就可以准确地标记时间戳并测量任务应该获得的预期 CPU 时间。其中,p
指向一个 struct task_struct
结构体。
/* include/linux/sched.h */struct sched_entity {.../** 进程的虚拟运行时间 = 进程的实际运行时间 / 相对权重** 进程的 实际运行时间 是一段一段的,所以进程的 虚拟运行时间 也是一段一段增长的。** 进程的 虚拟运行时间 还会在 进程入队时 与 运行队列中的最小虚拟时间 相比较,如* 果更小的话会直接进行增加,并不对应 实际的运行时间。为什么要这么做呢?因为有的* 进程可能会因长时间睡眠,导致其 虚拟运行时间 小于运行队列中所有进程中的 最小虚* 拟运行时间,这样的进程一旦运行起来,会因为其 虚拟运行时间 小,占据 CPU 的时间* 就会长,对其它进程就不公平了。*/u64 vruntime;...
};struct task_struct {...const struct sched_class *sched_class; /* 如果任务使用 CFS 调度,则为 &fair_sched_class */struct sched_entity se; /* CFS 类进程调度参数 */...
};
在理想的 虚拟 CPU
上,在任何时刻
,所有任务 虚拟运行时间值
p->se.vruntime
都保持相同
的值。
CFS
调度器,其任务选择逻辑
基于 p->se.vruntime
值:CFS
始终尝试运行具有最小 p->se.vruntime 值的任务
(即到目前为止虚拟执行时间(virtual runtime)
最小的任务)。CFS
始终尝试在可运行任务之间平均分配
虚拟 CPU时间
,尽可能接近理想的多任务 虚拟 CPU
。
CFS 设计的其余部分
大部分都脱离了这个非常简单的概念,有一些其它附加修饰,如任务的 nice
值,各种识别睡眠任务的算法等等。
2.3 运行队列:红黑树
CFS
不同于以往的调度器,它不使用运行队列
以往的旧数据结构,而是使用按时间排序的 红黑树(rbtree)
来构建未来任务执行的时间线
,而它之前 O(1) 调度器
使用位图
进行任务调度管理。
CFS
还维护 rq->cfs.min_vruntime
值,该值是一个单调递增值
,用于跟踪运行队列
中所有任务中的最小 vruntime
。该值用于尽可能将新激活的调度实体
(struct sched_entity
,即任务
)放
置在红黑树
的左侧
。由于该值一直使用 min_vruntime
单调递增累加
,所以也可用来跟踪系统完成的工作总量。
/* kernel/sched/sched.h *//* CFS-related fields in a runqueue */
struct cfs_rq {...u64 min_vruntime; /* CFS 调度算法 运行队列中 进程 的 最小 虚拟运行时间 */...
};/** This is the main, per-CPU runqueue data structure.** Locking rule: those places that want to lock multiple runqueues* (such as the load balancing or the thread migration code), lock* acquire operations must be ordered by ascending &runqueue.*/
struct rq {...struct cfs_rq cfs;...
};DECLARE_PER_CPU_SHARED_ALIGNED(struct rq, runqueues); /* 每 CPU 的运行队列 */
运行队列的权重通过 rq->cfs.load
值进行统计,该值是运行队列上排队的任务权重的总和:
/* kernel/sched/sched.h *//* CFS-related fields in a runqueue */
struct cfs_rq {/** 运行队列的权重, 等于其上所有进程的权重之和。* 进程在入队出队时,也会相应地从运行队列中加上减去其自身的权重。*/struct load_weight load;...
};
CFS
维护一个按时间排序的 红黑树(rbtree)
,即所有可运行的任务都按 p->se.vruntime
键排序,然后CFS
从这棵树中挑选最左边(即 p->se.vruntime 最小)的任务
执行。随着时间往后推移,执行的任务越来越多地被放入树中,执行时间更少的任务逐渐往红黑树左边移动,执行时间更多的任务往红黑树右边移动
,如此循环往复。
2.4 一些特征
CFS
使用纳秒级
精度,对任务的虚拟运行时间
的统计,它不依赖于 jiffies
或 HZ
值。因此,CFS
调度器没有
像以前的调度器那样的时间片概念
,也没有任何启发式方法。不使用启发式方法这一点,这使得 CFS
不容易受到针对启发式调度的攻击。
CFS
对任务 nice 值
和 SCHED_BATCH 策略任务
的处理比以往的调度器更优。
CFS
对 SMP
架构下的负载均衡
代码进行了清理,使得负载均衡逻辑更加简单。
2.5 调度策略
CFS
实现了 3
种调度策略
:
SCHED_NORMAL
,以往也叫SCHED_OTHER
:用于常规任务
。SCHED_BATCH
:适用
于没有用户交互
行为的后台进程
,用户对该类进程的响应时间要求不高
,但对吞吐量要求较高
,因此调度器会在完成所有SCHED_NORMAL
的任务之后让该类任务不受打扰地跑上一段时间,这样能够最大限度地利用缓存。SCHED_IDLE
:这类调度策略被用于系统中优先级最低的任务,只有在没有任何其他任务可运行时,调度器才会将运行该类任务。
2.6 调度器类别
Linux 同时支持多种类型调度器类别
,CFS
调度只是其中的一种,实现在文件 sched/fair.c
中。而像其它的调度类别如实现 SCHED_FIFO
和 SCHED_RR
调度策略的实时调度器
,实现在文件 sched/rt.c
中。
调度类是通过 struct sched_class
结构体实现的,该结构体包含一些列回调,在发生特定事件时被调用。struct sched_class
结构体内容如下:
/* kernel/sched/sched.h */struct sched_class {const struct sched_class *next;/** 将进程 @p 放入运行队列 @rq 。* 在任务进入可运行状态时调用。* 它将调度实体(任务)放入红黑树中,并递增 nr_running 变量。*/void (*enqueue_task) (struct rq *rq, struct task_struct *p, int flags);/** 将进程 @p 移出运行队列 @rq 。* 当任务不再可运行时,将调用此函数以将相应的调度实体移出红黑树,并递减 * nr_running 变量。*/void (*dequeue_task) (struct rq *rq, struct task_struct *p, int flags);/** 当前进程主动让出 CPU , 即移出运行队列,但 其状态依然是 runnable ,* 然后将另一进程加入运行队列。* 可通过系统调用 sys_sched_yield() 触发。*/void (*yield_task) (struct rq *rq);/* 当前进程主动让出 cpu 给进程组内进程 @p */bool (*yield_to_task) (struct rq *rq, struct task_struct *p, bool preempt);/** 被唤醒进程的抢占逻辑:检查 @p 是否会抢占 @rq 中当前正在运行的进程. * 通常情况下是在 @p 进入 runnable 态时,检查 @p 是否会抢占当前正在运* 行的进程。*/void (*check_preempt_curr) (struct rq *rq, struct task_struct *p, int flags);/** It is the responsibility of the pick_next_task() method that will* return the next task to call put_prev_task() on the @prev task or* something equivalent.** May return RETRY_TASK when it finds a higher prio class has runnable* tasks.*//* * 挑选下一可执行进程, 且以 @prev 为参数, 调用 put_prev_task() . ** 通常返回挑选的下一可执行进程, 但当发现更高优先级调度类别有可运行进程时, * 返回 RETRY_TASK .*/ struct task_struct * (*pick_next_task) (struct rq *rq,struct task_struct *prev,struct rq_flags *rf);void (*put_prev_task) (struct rq *rq, struct task_struct *p);#ifdef CONFIG_SMP/** 为进程 @p 选择运行队列。* 当系统调用 fork() + exec() 创建一个新的进程时,在 SMP 系统中* 选择一个合理的 runqueue 来将该进程入队。Scheduler 此时需要考* 虑 负载均衡 问题。*/int (*select_task_rq)(struct task_struct *p, int task_cpu, int sd_flag, int flags);void (*migrate_task_rq)(struct task_struct *p);void (*task_woken) (struct rq *this_rq, struct task_struct *task);/* 设置进程的 cpu affinity */void (*set_cpus_allowed)(struct task_struct *p, const struct cpumask *newmask);void (*rq_online)(struct rq *rq); /* cpu online */void (*rq_offline)(struct rq *rq); /* cpu offline */
#endifvoid (*set_curr_task) (struct rq *rq);void (*task_tick) (struct rq *rq, struct task_struct *p, int queued);void (*task_fork) (struct task_struct *p);void (*task_dead) (struct task_struct *p);/** The switched_from() call is allowed to drop rq->lock, therefore we* cannot assume the switched_from/switched_to pair is serliazed by* rq->lock. They are however serialized by p->pi_lock.*/void (*switched_from) (struct rq *this_rq, struct task_struct *task); /* @task 从 当前调度类别 切换到 其他调度类别 */void (*switched_to) (struct rq *this_rq, struct task_struct *task); /* @task 从 其他调度类别 切换到 当前调度类别 */void (*prio_changed) (struct rq *this_rq, struct task_struct *task, /* 优先级变更时的抢占逻辑 */int oldprio);/* 获取分配给进程 @task 的时间片 (sys_sched_rr_get_interval()) */unsigned int (*get_rr_interval) (struct rq *rq, struct task_struct *task);/* 更新当前进程运行时间统计信息 */void (*update_curr) (struct rq *rq);#define TASK_SET_GROUP 0
#define TASK_MOVE_GROUP 1#ifdef CONFIG_FAIR_GROUP_SCHEDvoid (*task_change_group) (struct task_struct *p, int type);
#endif
};
CFS 调度器类别
定义如下:
/** All the scheduling class methods:*/
const struct sched_class fair_sched_class = {.next = &idle_sched_class,.enqueue_task = enqueue_task_fair,.dequeue_task = dequeue_task_fair,.yield_task = yield_task_fair,.yield_to_task = yield_to_task_fair,.check_preempt_curr = check_preempt_wakeup,.pick_next_task = pick_next_task_fair,.put_prev_task = put_prev_task_fair,#ifdef CONFIG_SMP.select_task_rq = select_task_rq_fair,.migrate_task_rq = migrate_task_rq_fair,.rq_online = rq_online_fair,.rq_offline = rq_offline_fair,.task_dead = task_dead_fair,.set_cpus_allowed = set_cpus_allowed_common,
#endif.set_curr_task = set_curr_task_fair,.task_tick = task_tick_fair, /* cfs 类定时器周期调度接口: scheduler_tick() -> task_tick_fair() */.task_fork = task_fork_fair, /* 子进程创建时, 更新其虚拟时间 */.prio_changed = prio_changed_fair,.switched_from = switched_from_fair,.switched_to = switched_to_fair,.get_rr_interval = get_rr_interval_fair,.update_curr = update_curr_fair,#ifdef CONFIG_FAIR_GROUP_SCHED.task_change_group = task_change_group_fair,
#endif
};
2.7 扩展:组调度
通常,CFS
调度器对单个任务进行操作,并努力为每个任务提供公平的 CPU 时间。有时,可能需要对任务进行分组,并为每个此类任务组提供公平的 CPU 时间。例如,可能需要首先为系统上的每个用户提供公平的 CPU 时间,然后再为属于用户的每个任务提供公平的 CPU 时间。
CONFIG_CGROUP_SCHED
配置涵盖的功能,试图实现这一目标:它允许对任务进行分组,并在这些组之间公平地分配 CPU 时间。
CONFIG_RT_GROUP_SCHED
允许对实时任务
(即使用 SCHED_FIFO
和 SCHED_RR
调度策略的任务)进行分组。
CONFIG_FAIR_GROUP_SCHED
允许对 CFS
任务(即使用 SCHED_NORMAL
和SCHED_BATCH
调度策略的任务)进行分组。
开启了 CONFIG_FAIR_GROUP_SCHED
后,将为使用 cgroups 伪文件系统
创建的每个组创建一个 cpu.shares
文件。请参阅以下示例步骤,以创建任务组并使用 cgroups 伪文件系统
修改 CPU 份额
:
# mount -t tmpfs cgroup_root /sys/fs/cgroup
# mkdir /sys/fs/cgroup/cpu
# mount -t cgroup -ocpu none /sys/fs/cgroup/cpu
# cd /sys/fs/cgroup/cpu# mkdir multimedia # create "multimedia" group of tasks
# mkdir browser # create "browser" group of tasks# #Configure the multimedia group to receive twice the CPU bandwidth
# #that of browser group# echo 2048 > multimedia/cpu.shares
# echo 1024 > browser/cpu.shares# firefox & # Launch firefox and move it to "browser" group
# echo <firefox_pid> > browser/tasks# #Launch gmplayer (or your favourite movie player)
# echo <movie_player_pid> > multimedia/tasks
以上这一系列操作,分别为 多媒体程序
和 浏览器程序
创建了两个任务分组,并指定了它们各自的 CPU 配额
。
注意
,以上这些配置项都依赖于 CONFIG_CGROUPS
,并允许管理员使用 cgroup 伪文件系统
创建任务组。更多 cgroups
功能,读者可查阅相关资料。
3. 参考资料
[1] CFS Scheduler
[2] Completely Fair Scheduler
[3] 2.2.3 核心概念 - 调度策略