学习Linux要翻越三座高山:进程地址空间、文件系统、同步互斥
1. 冯诺依曼体系结构
我们常见的计算机,如笔记本。我们不常见的计算机,如服务器,大部分都遵守冯诺依曼体系。
截至目前,我们所认识的计算机,都是有一个个的硬件组件组成
计算机硬件组成
截至目前,我们所认识的计算机,都是由一个个的硬件组件组成:
- 输入单元:包括键盘、鼠标、扫描仪、写字板等
- 中央处理器(CPU):含有运算器和控制器等
- 输出单元:显示器、打印机等
冯诺依曼架构的重要性
关键点:
- 存储器指的是内存
- CPU只能对内存进行读写,不能直接访问外设(输入或输出设备)
- 外设的数据输入或输出必须经过内存
- 所有设备必须通过内存进行数据交换
深入理解冯诺依曼架构
冯诺依曼架构的理解不能停留在概念上,而要深入软件数据流转的过程。例如:
- 你登录QQ并与好友聊天,数据如何流动?
- 你打开聊天窗口,发送消息,对方收到消息,数据是如何传输的?
- 如果你在QQ上发送文件,又会经历哪些数据流转?
这些过程背后都遵循冯诺依曼架构的基本原理,即 所有数据的流转都必须经过内存。
2. 操作系统(Operating System, OS)
概念
任何计算机系统都包含一个基本的程序集合,称为 操作系统(OS)。操作系统主要包括:
- 内核(Kernel):负责 进程管理、内存管理、文件管理、驱动管理 等核心功能。
- 其他程序:如 函数库、Shell 程序 等,辅助操作系统运行。
操作系统的设计目的
- 管理硬件资源,实现计算机硬件的统一管理和高效调度。
- 提供用户程序(应用程序)的运行环境,使用户可以方便地使用计算机。
操作系统的定位
在整个计算机软件架构中,操作系统的核心定位是:一款纯正的“搞管理”的软件。
如何理解“管理”
- 管理的案例:如 CPU 进程调度、内存分配、文件存储、设备管理 等。
- 描述被管理对象:计算机中的 硬件资源、应用程序、数据 等。
- 组织被管理对象:通过 进程调度、存储管理、权限控制 等方式,优化计算机的运行效率。
总结
计算机的核心任务之一是 管理硬件资源,通常需要:
- 描述:采用
struct
结构体来表示计算机资源。 - 组织:使用 链表或其他高效的数据结构 来管理资源。
系统调用和库函数概念
- 系统调用 是操作系统提供的 接口,用于开发者访问操作系统功能。尽管 OS 对外表现为整体,但它会暴露部分接口供开发使用。
- 库函数 是在 系统调用 的基础上进行封装的功能,能更方便地供 上层开发者或应用程序 使用。
3. 承上启下:进程管理
在学习进程管理之前,我们可以先思考:
操作系统是如何管理和组织进程的?
- 进程需要 先被描述,然后再 进行组织管理。
- 这涉及到 进程控制块(PCB) 的数据结构设计,以及 进程调度策略。
进程概念
- 广义角度:程序的一个执行实例,正在执行的程序等
- 内核视角:担当分配系统资源(CPU时间、内存)的实体
进程控制块(PCB)
- PCB(Process Control Block):进程信息存放在一个叫做进程控制块的数据结构中,可理解为进程属性的集合
- Linux操作系统的PCB:task_struct
task_struct-PCB的一种
- 在Linux中描述进程的结构体叫做task_struct。
- task_struct是Linux内核的一种数据结构,它会被装载到 RAM(内存) 里并且包含着进程的信息。
task_ struct内容分类
- 标示符: 描述本进程的唯一标示符,用来区别其他进程。
- 状态: 任务状态,退出代码,退出信号等。
- 优先级: 相对于其他进程的优先级。
- 程序计数器: 程序中即将被执行的下一条指令的地址。
- 内存指针: 包括程序代码和进程相关数据的指针,还有和其他进程共享的内存块的指针
- 上下文数据: 进程执行时处理器的寄存器中的数据[休学例子,要加图CPU,寄存器]。
- I/O状态信息: 包括显示的I/O请求,分配给进程的I/O设备和被进程使用的文件列表。
- 记账信息: 可能包括处理器时间总和,使用的时钟数总和,时间限制,记账号等。
- 其他信息
进程组织
- 所有运行的进程在系统中以 task_struct 链表的形式存在内核里
进程查看
进程的信息可以通过/proc系统文件夹查看
- 如:要获取PID为1的进程信息,你需要查看/proc/1这个文件夹。
- 大多数进程信息同样可以使用top和ps这些用户级工具来获取
#include <stdio.h>
#include <sys/types.h>
#include <unistd.h>int main()
{while(1){printf("pid: %d\n", getpid());printf("ppid: %d\n", getppid());sleep(2);}return 0;
}
注意:当你运行 grep test
时,grep
进程本身也会出现在结果中
ps aux
:显示所有用户的进程信息,包含详细的进程状态、CPU、内存占用等。grep test
:从ps aux
的输出中查找包含test
字符串的行,输出所有符合条件的进程信息。grep -v grep
:从上一步的结果中过滤掉包含grep
字符串的行。
通过系统调用获取进程标示符
- 进程id (PID)
- 父进程id (PPID)
#include <stdio.h>
#include <sys/types.h>
#include <unistd.h>int main()
{while(1){printf("pid: %d\n", getpid());printf("ppid: %d\n", getppid());} return 0;
}
通过系统调用创建进程-fork初识
运行 man fork 认识 fork
- fork有两个返回值
- 父子进程代码共享,数据各自开辟空间,私有一份(采用写时拷贝)
#include <stdio.h>
#include <sys/types.h>
#include <unistd.h>int main()
{int ret = fork();printf("hello proc : %d!, ret: %d\n", getpid(), ret);sleep(1);return 0;
}
- fork 之后通常要用 if 进行分流
#include <stdio.h>
#include <sys/types.h>
#include <unistd.h>int main()
{int ret = fork();if(ret < 0) // 创建失败{perror("fork");return 1;}else if(ret == 0) //child{ printf("I am child : %d!, ret: %d\n", getpid(), ret);}else //father{ printf("I am father : %d!, ret: %d\n", getpid(), ret);}sleep(1);return 0;
}
4. 进程状态(Linux内核中的进程状态)
看看Linux内核源代码怎么说
为了弄明白正在运行的进程是什么意思,我们需要知道进程的不同状态。
一个进程可以有几个状态(在 Linux内核里,进程有时候也叫做任务)。
下面的状态在kernel源代码里定义:
/*
* The task state array is a strange "bitmap" of
* reasons to sleep. Thus "running" is zero, and
* you can test for combinations of others with
* simple bit tests.
*/
static const char * const task_state_array[] = {
"R (running)", /* 0 */
"S (sleeping)", /* 1 */
"D (disk sleep)", /* 2 */
"T (stopped)", /* 4 */
"t (tracing stop)", /* 8 */
"X (dead)", /* 16 */
"Z (zombie)", /* 32 */
};
各状态定义:
- R运行状态(running):
指正在被CPU运行或者就绪的状态。运行态的进程可以分为3种情况:内核运行态、用户运行态、就绪态。
- S睡眠状态(sleeping):
处于等待状态中的进程,一旦被该进程等待的资源被释放,那么该进程就会进入运行状态。
也叫做可中断睡眠 (interruptible sleep)
- D磁盘休眠状态(Disk sleep):
该状态的进程只能用wake_up()函数唤醒。进程不能被常规信号中断,直到 I/O 操作完成。
也叫不可中断睡眠状态(uninterruptible sleep)
- T停止状态(stopped):
当进程收到信号SIGSTOP、SIGTSTP、SIGTTIN或SIGTTOU时就会进入暂停状态。
可向其发送SIGCONT信号让进程转换到可运行状态。
- t 跟踪停止状态(tracing stop)
当进程被调试器跟踪时,进程处于此状态。进程可以被暂停,等待调试器的操作。
- X死亡状态(dead):
进程已经终止,处于死亡状态。
这只是一个返回状态,通常不会出现在进程列表中,因为它已经完成了生命周期。
进程状态查看
ps aux / ps axj
解释:
在Linux系统中,
ps
命令用于查看当前系统中运行的进程状态。ps aux
和ps axj
都是ps
命令的常见参数组合,但它们显示的信息有所不同:
ps aux
:
a
: 显示所有用户的进程,不包括会话领导者的进程。u
: 显示用户/所有者的进程信息。x
: 显示没有控制终端的进程。 这个命令组合会列出所有正在运行的进程,包括那些没有控制终端的进程(例如后台进程)。输出的信息较为详细,包括用户ID、CPU使用率、内存使用率、进程启动时间等。ps aux
是一个非常常用的命令,适合快速查看系统的整体进程状态。
ps axj
:
a
: 同样显示所有用户的进程。x
: 同样显示没有控制终端的进程。j
: 显示进程树格式,提供更多关于进程层次结构的信息,包括进程组ID(PGID)、会话ID(SID)、父进程ID(PPID)、进程ID(PID)以及进程树的层次关系。 这个命令组合在输出中会以树的形式展示进程,这对于理解进程之间的关系非常有用,特别是当你需要分析系统中进程是如何被组织起来的时候。它可以帮助你更清晰地看到一个进程及其子进程的关系。总结来说,
ps aux
提供的是一个详细的进程列表,适合用于查看系统中所有进程的整体状态;而ps axj
则更适合用于分析进程的层次结构和组织关系。
Z(zombie)-僵尸进程
僵死状态(Zombies)是一个比较特殊的状态。
- 当子进程退出并且父进程(使用wait()系统调用,下面会说明) 没有读取到子进程退出的返回码时就会产生僵死进程
- 僵死进程会以终止状态保持在进程表中,并且会一直在等待父进程读取退出状态代码。
- 所以,只要子进程退出,父进程还在运行,但父进程没有读取子进程状态,子进程就进入Z状态
来一个创建维持10秒的僵死进程例子:
#include <stdio.h>
#include <stdlib.h>
#include <unistd.h>int main() {pid_t id = fork();if (id < 0) {perror("创建子进程失败");return 1;} else if (id > 0) { // 父进程printf("父进程[%d] 正在睡眠...\n", getpid());sleep(10);} else { // 子进程printf("子进程[%d] 开始变成僵尸...\n", getpid());sleep(5);exit(EXIT_SUCCESS);}return 0;
}
编译并在另一个终端下启动监控
看到结果,子进程5秒后进入Z状态等待回收。
ptrace系统调用追踪进程运行,有兴趣研究一下
僵尸进程危害
- 进程的退出状态必须被维持下去,因为他要告诉关心它的进程(父进程),你交给我的任务,我办的怎么样了。可父进程如果一直不读取,那子进程就一直处于Z状态?是的!
- 维护退出状态本身就是要用数据维护,也属于进程基本信息,所以保存在task_struct(PCB)中,换句话 说,Z状态一直不退出,PCB一直都要维护?是的!
- 那一个父进程创建了很多子进程,就是不回收,是不是就会造成内存资源的浪费?是的!因为数据结构对象本身就要占用内存,想想C中定义一个结构体变量(对象),是要在内存的某个位置进行开辟空间!
- 内存泄漏?是的!
- 如何避免?后面说明
进程状态总结
- 父进程如果提前退出,那么子进程后退出,进入Z之后,那该如何处理呢?
- 父进程先退出,子进程就称之为“孤儿进程”
- 孤儿进程被1号init进程领养,当然要有init进程回收喽。
5. 进程优先级
基本概念
- cpu资源分配的先后顺序,就是指进程的优先权(priority)。
- 优先权高的进程有优先执行权利。配置进程优先权对多任务环境的linux很有用,可以改善系统性能。
- 还可以把进程运行到指定的CPU上,这样一来,把不重要的进程安排到某个CPU,可以大大改善系统整体性能。
6. 查看系统进程
在linux或者unix系统中,用ps –l命令则会类似输出以下几个内容:
我们很容易注意到其中的几个重要信息,如下:
- UID : 代表执行者的身份
- PID : 代表这个进程的代号
- PPID :代表这个进程是由哪个进程发展衍生而来的,亦即父进程的代号
- PRI :代表这个进程可被执行的优先级,其值越小越早被执行
- NI :代表这个进程的nice值
PRI and NI
- PRI也还是比较好理解的,即进程的优先级,或者通俗点说就是程序被CPU执行的先后顺序,此值越小 进程的优先级别越高
- 那NI呢?就是我们所要说的nice值了,其表示进程可被执行的优先级的修正数值
- PRI值越小越快被执行,那么加入nice值后,将会使得PRI变为:PRI(new)=PRI(old)+nice
- 这样,当nice值为负值的时候,那么该程序将会优先级值将变小,即其优先级会变高,则其越快被执行
- 所以,调整进程优先级,在Linux下,就是调整进程nice值
- nice其取值范围是-20至19,一共40个级别
PRI vs NI
- 需要强调一点的是,进程的nice值不是进程的优先级,他们不是一个概念,但是进程nice值会影响到进程的优先级变化。
- 可以理解nice值是进程优先级的修正修正数据
查看进程优先级的命令
- 用top命令更改已存在进程的nice:
- top 进入top后按“r”–>输入进程PID–>输入nice值
其他概念
- 竞争性: 系统进程数目众多,而CPU资源只有少量,甚至1个,所以进程之间是具有竞争属性的。为了高效完成任务,更合理竞争相关资源,便具有了优先级
- 独立性: 多进程运行,需要独享各种资源,多进程运行期间互不干扰
- 并行: 多个进程在多个CPU下分别,同时进行运行,这称之为并行
- 并发: 多个进程在一个CPU下采用进程切换的方式,在一段时间之内,让多个进程都得以推进,称之为 并发 环境变量 基本概念
7. 环境变量
基本概念
- 环境变量(environment variables)一般是指在操作系统中用来指定操作系统运行环境的一些参数
- 如:我们在编写C/C++代码的时候,在链接的时候,从来不知道我们的所链接的动态静态库在哪里,但 是照样可以链接成功,生成可执行程序,原因就是有相关环境变量帮助编译器进行查找。
- 环境变量通常具有某些特殊用途,还有在系统当中通常具有全局特性
常见环境变量
- PATH : 指定命令的搜索路径
- HOME : 指定用户的主工作目录(即用户登陆到Linux系统中时,默认的目录)
- SHELL : 当前Shell,它的值通常是/bin/bash。
查看环境变量方法
echo $NAME //NAME:你的环境变量名称
测试PATH
1. 创建hello.c文件
#include <stdio.h>int main()
{printf("hello world!\n");return 0;
}
2. 对比./hello执行和之间hello执行
3. 为什么有些指令可以直接执行,不需要带路径,而我们的二进制程序需要带路径才能执行?
4. 将我们的程序所在路径加入环境变量PATH当中, export PATH=$PATH:hello程序所在路径
5. 对比测试
6. 还有什么方法可以不用带路径,直接就可以运行呢?
测试HOME
用root和普通用户,分别执行 echo $HOME ,对比差异
. 执行 cd ~; pwd ,对应 ~ 和 HOME 的关系
和环境变量相关的命令
- echo: 显示某个环境变量值
- export: 设置一个新的环境变量
- env: 显示所有环境变量
- unset: 清除环境变量
- set: 显示本地定义的shell变量和环境变量
环境变量的组织方式
每个程序都会收到一张环境表,环境表是一个字符指针数组,每个指针指向一个以’\0’结尾的环境字符串
8. 获取环境变量
1. 通过代码如何获取环境变量
- 命令行第三个参数
#include <stdio.h>int main(int argc, char *argv[], char *env[])
{int i = 0;for(; env[i]; i++){printf("%s\n", env[i]);}return 0;
}
- 通过第三方变量environ获取
#include <stdio.h>int main(int argc, char *argv[])
{extern char **environ;int i = 0;for(; environ[i]; i++){printf("%s\n", environ[i]);}return 0;
}
libc中定义的全局变量environ指向环境变量表,environ没有包含在任何头文件中,所以在使用时 要用extern声明。
2. 通过系统调用获取或设置环境变量
- putenv
- getenv
#include <stdio.h>
#include <stdlib.h>int main()
{printf("%s\n", getenv("PATH"));return 0;
}
常用getenv和putenv函数来访问特定的环境变量。
环境变量通常是具有全局属性的
- 环境变量通常具有全局属性,可以被子进程继承下去
#include <stdio.h>
#include <stdlib.h>int main()
{char * env = getenv("MYENV");if(env){printf("%s\n", env);}return 0;
}
直接查看,发现没有结果,说明该环境变量根本不存在
- 导出环境变量 export MYENV="hello world" 再次运行程序,发现结果有了!
- 说明:环境变量是可以被子进程继承下去的!想想为什么?
实验
- 如果只进行 MYENV=“helloworld” ,不调用export导出,在用我们的程序查看,会有什么结果?为什么?
结论
- 环境变量 通过
export
导出后,可以被当前Shell会话和其子进程继承。 - 普通变量 在Shell中定义后,只在当前Shell会话中有效,不会被子进程继承,也无法通过
getenv
获取到。
所以,如果没有使用 export
,你的程序就无法获取到 MYENV
变量的值,因为它不是环境变量,而只是当前Shell的局部变量。
9. 程序地址空间
研究背景
- generic 5.15.0
- 64位平台
我们应该见过下面的空间布局图
可是我们对他并不理解
来段代码感受一下
#include <stdio.h>
#include <unistd.h>
#include <stdlib.h>int g_val = 0; // 全局变量int main()
{pid_t id = fork(); // 创建子进程if (id < 0) {perror("fork");return 0; // 如果fork失败,输出错误并返回}else if (id == 0) { // 子进程printf("child[%d]: %d : %p\n", getpid(), g_val, &g_val);} else { // 父进程printf("parent[%d]: %d : %p\n", getpid(), g_val, &g_val);}sleep(1); // 等待1秒,确保父子进程输出不会交叉return 0;
}
我们发现,输出出来的变量值和地址是一模一样的,很好理解呀,因为子进程按照父进程为模版,父子并没有对变 量进行进行任何修改。可是将代码稍加改动
#include <stdio.h>
#include <unistd.h>
#include <stdlib.h>int g_val = 0; // 全局变量int main()
{pid_t id = fork(); if(id < 0){perror("fork");return 0; }else if(id == 0){ g_val = 100; // 子进程肯定先跑完,也就是子进程先修改,完成之后,父进程再读取printf("child[%d]: %d : %p\n", getpid(), g_val, &g_val);}else{ // 父进程sleep(3); // 父进程等待 3 秒,确保子进程先打印printf("parent[%d]: %d : %p\n", getpid(), g_val, &g_val); }sleep(1); return 0;
}
我们发现,父子进程,输出地址是一致的,但是变量内容不一样!能得出如下结论:
- 变量内容不一样,所以父子进程输出的变量绝对不是同一个变量
- 但地址值是一样的,说明,该地址绝对不是物理地址!
- 在Linux地址下,这种地址叫做 虚拟地址
- 我们在用C/C++语言所看到的地址,全部都是虚拟地址!物理地址,用户一概看不到,由OS统一管理
OS必须负责将 虚拟地址 转化成 物理地址。
进程地址空间
所以之前说‘程序的地址空间’是不准确的,准确的应该说成进程地址空间 ,那该如何理解呢?
分页&虚拟地址空间

说明:
上面的图就足矣说名问题,同一个变量,地址相同,其实是虚拟地址相同,内容不同其实是被映射到了不同的物理地址!
10. Linux2.6内核进程调度队列(额外话题)
上图是Linux2.6内核中进程队列的数据结构
一个CPU拥有一个runqueue
- 如果有多个CPU就要考虑进程个数的负载均衡问题
优先级
- 普通优先级:100~139(我们都是普通的优先级,想想nice值的取值范围,可与之对应!)
- 实时优先级:0~99(不关心)
活动队列
- 时间片还没有结束的所有进程都按照优先级放在该队列
- nr_active: 总共有多少个运行状态的进程
- queue[140]: 一个元素就是一个进程队列,相同优先级的进程按照FIFO规则进行排队调度,所以,数组下 标就是优先级!
- 从该结构中,选择一个最合适的进程,过程是怎么的呢?
- 从0下表开始遍历queue[140]
- 找到第一个非空队列,该队列必定为优先级最高的队列
- 拿到选中队列的第一个进程,开始运行,调度完成
- 遍历queue[140]时间复杂度是常数!但还是太低效了
- bitmap[5]:一共140个优先级,一共140个进程队列,为了提高查找非空队列的效率,就可以用5*32个 比特位表示队列是否为空,这样,便可以大大提高查找效率
过期队列
- 过期队列和活动队列结构一模一样
- 过期队列上放置的进程,都是时间片耗尽的进程
- 当活动队列上的进程都被处理完毕之后,对过期队列的进程进行时间片重新计算
active指针和expired指针
- active指针永远指向活动队列
- expired指针永远指向过期队列
- 可是活动队列上的进程会越来越少,过期队列上的进程会越来越多,因为进程时间片到期时一直都存在 的。
- 没关系,在合适的时候,只要能够交换active指针和expired指针的内容,就相当于有具有了一批新的活动进程!
总结
在系统当中查找一个最合适调度的进程的时间复杂度是一个常数,不随着进程增多而导致时间成本增加,我们称之为进程调度O(1)算法。