什么是上下文切换?
上下文换指的是操作系统的核心,在CPU上对进程或者线程进行切换的意思。上下文切换过程中的信息被保存在进程控制块中的。
理解上下文切换
首先,大家不管在单核或多核处理器都支持多线程执行代码,然后CPU通过给每个线程分配CPU时间片来实现这个过程的。什么是时间片,时间片是CPU分配给各个线程的时间,时间片非常短。所以我们是平还是感觉不到,CPU不停切换线程执行,时间片一般就是几十毫秒,就那么一瞬间。
如何减少上下文切换
减少“上下文切换”常用有这种方法:无锁并发编程、CAS算法、使用最少线程和使用协程。
无锁并发编程:就是多线程竞争锁时,会引起上下文切换,多线程处理数据时,可以用一 些办法来避免使用锁,如将数据的ID按照Hash算法取模分段,不同的线程处理不同段的数据。CAS算法:Java的Atomic包使用CAS算法来更新数据,就是它在没有锁的状态下,可以保证多个线程对一个值的更新。使用最少线程:避免创建不需要的线程。协程:在单线程里实现多任务的调度,并在单线程里维持多个任务间的切换。
上下文切换的消耗
上下文切换,它是需要相当可观的处理器时间的。当在每秒几十上百次的切换中,每次切换都需要纳秒量级的时间,所以时间是非常短,很多时候,我们是观察不到 变化的。因此,对于上下文切换,会给系统带来的是消耗大量的CPU时间。
上下文切换带来的问题
除了进程需要上下文切换,其实还有一种上下文切换,那就是操作系统检测到中断、异常、系统调用时发生的,以及包括IO设备引起的中断,应用程序主动发起系统调用(如文件读写)等等。如果操作系统检测到中断异常系统调用的信号后,会通过中断向量表找到对应的处理程序,然后切换成处理程序进程,处理完成后再切换回来。
其实在系统调用时候,可能还会有用户态到内核态的切换,这个过程更加为复杂。在普通上下文,它会的开销比普通上下文切换代价更大了。
https://www.wabks.com/post/550.html
性能优化CPU篇(二)之CPU上下文切换(上)
- 发表评论
- 602 views
- A+
理解CPU上下文
- 进程在竞争CPU的时候并没有真正运行,为什么还会导致系统的负载升高呢?看到今天的主题,你应该已经猜到了,CPU上下文切换就是罪魁祸首。
- 我们都知道,Linux是一个多任务操作系统,它支持远大于CPU数量的任务同时运行。
- 当然,这些任务实际上并不是真的在同时运行,而是因为系统在很短的时间内,将CPU轮流分配给它们,造成多任务同时运行的错觉。
- 而在每个任务运行前,CPU都需要知道任务从哪里加载、又从哪里开始运行,也就是说,需要系统事先帮它设置好CPU寄存器和程序计数器(Program Counter,PC)。
- CPU寄存器,是CPU内置的容量小、但速度极快的内存,也就是cpu用户存储指令的寄存器。
- 而程序计数器,则是用来存储CPU正在执行的指令位置、或者即将执行的下一条指令位置,执行指令的寄存器。
- 当切换任务的时候,需要记录任务当前的状态和获取下一任务的信息和地址(指针),这就是上下文的内容。
- 因此,上下文是指某一时间点CPU寄存器(CPU register)和程序计数器(PC)的内容, 广义上还包括内存中进程的虚拟地址映射信息.
- 知道了什么是CPU上下文,我想你也很容易理解CPU上下文切换。
- 1 保存当前任务的上下文(即寄存器和程序计数器等所有状态)
- 2 找到新任务的上下文并加载
- 3 切换到新任务的程序计数器位置,运行新任务
- 4 保存下来的上下文存储在系统内核,当任务再次调度执行再次加载运行
- 这样就能保证任务原来的状态不受影响,让任务看起来还是连续运行。
- 根据任务的不同,CPU的上下文切换可以分为几个不同的场景,也就是,线程上下文以及中断上下文
- 进程上下文: 是指从一个进程切换到另一个进程。
一 进程上下文切换
- A linux按照特权等级,把进程的运行空间分为内核空间和用户空间
- 内核空间(Ring 0)具有最高权限,可以直接访问所有资源
- 用户空间(Ring 3)只能访问受限资源,不能直接访问内存等硬件设备,必须通过系统调用陷入到内核中,才能访问到这些特权资源
- B 进程运行态为内核运行态和进程运行态。内核空间态资源包括内核的堆栈、寄存器等;用户空间态资源包括虚拟内存、栈、变量、正文、数据等
- C 系统调用(软中断)在内核态完成的,需要进行2次CPU上下文切换(用户空间-->内核空间-->用户空间不涉及用户态资源,也不会切换进程,一直是同一个进程在运行。
- 系统调用过程通常称为特权模式切换,而不是上下文切换。但实际上,系统调用过程中,CPU的上下文切换还是无法避免的。
- D 进程是由内核来管理和调度的,进程的切换只能发生在内核态。所以,进程的上下文不仅包括了用户空间的资源,也包括内核空间资源。
- E 进程上下文切换过程:
- (a)接收到切换信号,挂起进程,记录当前进程的虚拟内存、栈等资源存储;
- (b)将这个进程在 CPU 中的上下文状态存储于起来;
- (c)然后在内存中检索下一个进程的上下文;
- (d)并将其加载到 CPU的寄存器中恢复;
- (e)还需要刷新进程的虚拟内存和用户栈;
- (f)最后跳转到程序计数器所指向的位置(即跳转到进程被中断时的代码行),以恢复该进程。
- F 下列将会触发进程上下文切换的场景:
- (a)、根据调度策略,将CPU时间划片为对应的时间片,当时间片耗尽,当前进程必须挂起。
- (b)、资源不足的,在获取到足够资源之前进程挂起。
- (c)、进程sleep挂起进程。
- (d)、高优先级进程导致当前进度挂起
- (e)、硬件中断,导致当前进程挂起
二 线程上下文切换
- A 线程与进程最大的区别在于
- 线程是调度的基本单位,而进程则是资源拥有的基本单位。说白了,
- 所谓内核中的任务调度,实际上的调度对象是线程;而进程只是给线程提供了虚拟内存、全局变量
- 等资源。
- B 线程和进程,我们可以这么理解:
- ·当进程只有一个线程时,可以认为进程就等于线程。
- ·当进程拥有多个线程时,这些线程会共享相同的虚拟内存和全局变量等资源。这些资源在上下文
- 切换时是不需要修改的。
- ·另外,线程也有自己的私有数据,比如栈和寄存器等,这些在上下文切换时也是需要保存的。
- C 线程的上下文切换其实就可以分为两种情况:
- 第一种,前后两个线程属于不同进程。此时,因为资源不共享,所以切换过程就跟进程上下文切换
- 是一样。
- 第二种,前后两个线程属于同一个进程。此时,因为虚拟内存是共享的,所以在切换时,虚拟内存
- 这些资源就保持不动,只需要切换线程的私有数据、寄存器等不共享的数据。
- D 到这里你应该也发现了,虽然同为上下文切换,但同进程内的线程切换,要比多进程间的切换消耗
- 更少的资源,而这,也正是多线程代替多进程的一个优势。
三 中断上下文切换
- A 为了快速响应硬件的事件,中断处理会打断进程的正常调度和执行,转而调用中断处理程序,响应
- 设备事件。而在打断其他进程时,就需要将进程当前的状态保存下来,这样在中断结束后,进程仍
- 然可以从原来的状态恢复运行。
- B 跟进程上下文不同,中断上下文切换并不涉及到进程的用户态。所以,即便中断过程打断了一个正
- 处在用户态的进程,也不需要保存和恢复这个进程的虚拟内存、全局变量等用户态资源。中断上下
- 文,其实只包括内核态中断服务程序执行所必需的状态,包括CPU存器、内核堆栈、硬件中断
- 参数等。
- C 对同一个CPU来说,中断处理比进程拥有更高的优先级,所以中断上下文切换并不会与进程上下
- 文切换同时发生。同样道理,由于中断会打断正常进程的调度和执行,所以大部分中断处理程序都
- 短小精悍,以便尽可能快的执行结束。
- D 另外,跟进程上下文切换一样,中断上下文切换也需要消耗CPU,切换次数过多也会耗费大量的
- CPU,甚至严重降低系统的整体性能。所以,当你发现中断次数过多时,就需要注意去排查它是否
- 会给你的系统带来严重的性能问题。
四 总结:
- 1.CPU上下文切换,是保证Linux系统正常工作的核心功能之一,一般情况下不需要我们特别关
- 注。
- 2.但过多的上下文切换,会把CPU时间消耗在寄存器、内核栈以及虚拟内存等数据的保存和恢
- 复上,从而缩短进程真正运行的时间,导致系统的整体性能大幅下降。
- 3 cpu上下文切换就好比一个人有好多朋友要拜访
- 有的朋友房子大(进程),进进出出里三层外三层,
- 有的朋友住帐篷(线程),就拉开帐篷聊聊天,
- 有的朋友就隔着窗户说两句话打个照面路过(中断)
- 4 有哪些减少上下文切换的技术用例?
- 数据库连接池(复用连接)、合理设置应用的最大进程,线程数、直接内存访问DMA、零拷贝技术
- 5 虚拟内存的保存是指虚拟内存的映射关系;保存下来的上下文会存储在内核管理的内存中