Linux 进程调度模块

1. 进程与线程的本质在 Linux 内核中进程和线程没有本质区别它们统一被称为任务Task。1.1 底层数据结构每个任务在内核中都由一个struct task_struct结构体描述位于内核空间。它是进程/线程的身份证。// 简化版 task_struct 关键字段 struct task_struct { volatile long state; // 任务状态 (RUNNING, SLEEPING, etc.) void *stack; // 内核栈指针 atomic_t usage; // 引用计数 unsigned int flags; // 标志位 pid_t pid; // 线程 ID (TID) pid_t tgid; // 进程组 ID (TGID)即通常理解的 PID struct mm_struct *mm; // 内存描述符 (页表、堆栈等) struct files_struct *files; // 打开的文件表 struct fs_struct *fs; // 文件系统信息 (当前目录等) struct sched_entity se; // 调度实体 (用于 CFS 调度) // ... 更多字段 };进程拥有独立的 mm_struct地址空间pid 与 tgid 相同。线程共享同一 mm_struct、files、fs但拥有独立的 stack 和 pid且 pid ! tgid。1.2 进程创建流程1.2.1 调用链用户态调用 fork()内核态经历复杂的资源复制与初始化。用户态fork() ↓ (glibc 封装) 系统调用sys_fork() / sys_clone() ↓ (内核入口) kernel/fork.c: _do_fork() (5.x 内核中由 kernel_clone 封装) ↓ kernel/fork.c: copy_process() ↓ copy_files(), copy_fs(), copy_mm(), copy_thread() ... ↓ kernel/fork.c: wake_up_new_task() ↓ 调度器将新任务加入运行队列1.2.2 核心步骤1. 分配 task_struct (dup_task_struct)内核为新任务分配内存通常通过 kmem_cache_alloc 从 task_struct 缓存池获取并复制父任务的 task_struct 内容。此时子任务几乎和父任务一模一样。2. 资源复制与共享 (copy_* 系列函数)这是区分进程和线程的关键点。copy_process 会调用一系列函数处理不同资源copy_files(): 复制文件描述符表。默认子进程继承父进程打开的文件文件偏移量共享但 fd 表独立。copy_fs(): 复制文件系统信息如当前工作目录。copy_mm():最关键的一步。进程 (fork): 复制 mm_struct 结构体但不复制物理内存。线程 (clone): 直接共享父任务的 mm_struct 指针。copy_thread(): 设置子任务的内核栈和寄存器上下文如指令指针 IP 设置为 fork 返回点。3. 写时复制 (Copy-On-Write, COW)fork 创建进程之所以快核心在于COW 机制。原理在 copy_mm 中内核将父子进程的页表项PTE都设置为只读。触发当任意一方尝试写内存时CPU 触发页错误异常。处理内核捕获异常分配新的物理页复制数据修改页表指向新页并恢复写权限。收益如果 fork 后立即 exec则无需复制任何内存极大提升效率。即fork进程时不分配物理页此时拥有的是父进程的只读页写的时候触发错误才分配物理页并复制数据。4. PID 分配 (alloc_pid)内核通过 PID 命名空间分配唯一的 pid 和 tgid。5. 加入运行队列 (wake_up_new_task)新任务状态置为 TASK_RUNNING并调用调度器接口将其插入到 CPU 的Runqueue中。此时它已具备被调度的资格。1.3 线程创建流程1.3.1 调用链用户态pthread_create() ↓ (glibc/NPTL) 系统调用clone() ↓ 内核_do_fork(clone_flags, ...)1.3.2 区别pthread_create 调用 clone 时会传入一组特定的标志位告诉内核“哪些资源要共享”标志位含义进程 (fork)线程 (pthread)CLONE_VM共享内存空间 (mm_struct)❌ (复制)✅ (共享)CLONE_FS共享文件系统信息❌ (复制)✅ (共享)CLONE_FILES共享文件描述符表❌ (复制)✅ (共享)CLONE_THREAD放入同一线程组 (tgid 相同)❌✅CLONE_SIGHAND共享信号处理函数❌ (复制)✅ (共享)特有的底层处理独立栈虽然共享 mm_struct但线程必须有独立的栈空间用户栈和内核栈。copy_thread 中会指定新的栈指针。TLS (Thread Local Storage)内核协助设置线程局部存储确保 errno 等变量线程隔离。调度实体每个线程都有独立的 sched_entity意味着线程是独立调度的。操作系统调度的是线程而非进程。2. 进程调度Linux 默认使用CFS (Completely Fair Scheduler完全公平调度器)调度 SCHED_NORMAL 任务。2.1 调度器类内核支持多种调度策略按优先级从高到低SCHED_DEADLINE: 基于最早截止时间优先 (EDF)用于硬实时。SCHED_FIFO / SCHED_RR: 实时调度类优先级固定不计算权重。SCHED_NORMAL (CFS): 普通进程基于动态优先级和虚拟时间。SCHED_IDLE: 优先级最低系统空闲时运行。策略调度算法适用场景SCHED_FIFO先进先出(非抢占式时间片)硬实时任务。一旦运行除非主动阻塞或让出否则一直占用 CPU直到被更高优先级的实时任务抢占。SCHED_RR时间片轮转(Round Robin)需要公平共享 CPU 的实时任务。同优先级的任务轮流执行用完时间片后自动放到队列尾部。SCHED_NORMALCFS 完全公平调度红黑树 vruntime(虚拟运行时间)普通交互式/后台任务默认策略。无固定时间片追求长期公平。SCHED_DEADLINEEDF(Earliest Deadline First)最复杂的实时调度。基于截止时间 (didi​)、运行时间 (cici​) 和周期 (2.2 CFS原理2.2.1 管理结构每个 CPU 都有一个运行队列 (struct rq)。CFS 使用红黑树来管理可运行任务。节点struct sched_entity (嵌入在 task_struct 中)。排序键值vruntime (Virtual Runtime虚拟运行时间优先级越高vruntime越小)。规则vruntime 越小的任务在红黑树越左侧越优先被调度。2.2.2 调度流程当发生调度时如时间片用完、进程阻塞、更高优先级任务唤醒内核调用 schedule()选择下一个任务获取红黑树的最左节点即 vruntime 最小的任务。上下文切换保存现场将当前寄存器RIP, RSP, RBX 等保存到 prev-thread 结构体。切换栈切换内核栈指针 (TSS 寄存器或 RSP)。切换地址空间如果 prev-mm ! next-mm切换页表全局目录寄存器 (CR3)刷新TLB。恢复现场从 next-thread 恢复寄存器跳转到 next 上次执行的指令继续运行。2.2.3 调度触发时机主动调度进程调用 sleep(), wait(), read() (无数据) 等阻塞接口状态变为 TASK_INTERRUPTIBLE主动让出 CPU。被动调度时间片耗尽硬件定时器中断触发更新 vruntime若当前任务 vruntime 不是最小则触发重调度。唤醒抢占高优先级任务从阻塞中唤醒若其 vruntime 远小于当前运行任务触发 check_preempt_curr设置 TIF_NEED_RESCHED 标志。返回用户态检查在从中断或系统调用返回用户态前检查 TIF_NEED_RESCHED若置位则调用 schedule()。2.2.4 多核CPU现代 CPU 是多核的。为了减少锁竞争每个逻辑 CPU 都有独立的 struct rq 和 红黑树。优点大部分调度操作无需加锁并发性能高。缺点可能导致负载不均一个核忙死一个核空闲。内核定期运行负载均衡器检测发现某些 CPU 的 rq 任务过多某些过少。迁移将任务从一个 CPU 的 rq 移动到另一个 CPU 的 rq。缓存亲和性迁移时会尽量考虑 L1/L2/L3 缓存共享关系如优先在同一物理核心的超线程间迁移或同一 NUMA 节点内迁移以减少缓存失效带来的性能损耗。抢占内核抢占允许在内核态执行期间被更高优先级的任务打断。自愿抢占内核中有一些显式的 cond_resched() 点长循环中主动检查是否需要调度。