引言
当计算机系统处于就绪状态的用户进程数多于CPU数时，就会产生多个进程或线程同时竞争CPU的结果。假设现在只有一个CPU可用，那么操作系统就必须选择下一个要运行的进程。完成这种选择工作的这一部分称为调度程序，该程序使用的算法称为调度算法。
尽管有一些不同，但许多适用于进程调度的处理方法也同样适用于线程调度。当内核管理线程的时候，调度经常是按线程级别的，与线程所属的进程基本或根本没有关联。
调度时机
在执行具体的调度程序之前，操作系统必须要解决一个关键的问题：何时进行调度决策？
有以下情形需要调度处理：
1、 在创建一个新进程之后，需要决定是运行父进程还是运行子进程。由于这两种进程都处于就绪状态，所以这是一种正常的调度决策，可以任意决定。
2、在一个进程退出时必须做出调度决策。一个进程不再运行，所以必须从就绪进程集中选择另外某个进程。如果没有就绪的进程，通常会运行一个系统提供的空闲进程。
3、当一个进程在阻塞I/O和信号量上或由于其他原因阻塞时，必须选择另一个进程运行。
4、在一个I/O中断发生时，必须做出调度决策。如果中断来自I/O设备，而该设备现在完成了工作，某些阻塞的等待该I/O进程就成为可运行的就绪进程了。是否让新就绪的进程运行，这取决于调度程序的决定 ，或者让中断发生时运行的进程继续运行，或者应该让某个其他进程运行。
注：区分一个多任务分时系统是抢占式的还是非抢占式的，则要看进程能否在（4）发生中断时，能否产生调度（抢占）。
调度算法的分类
根据如何处理时钟中断，可以把调度算法分为两类：抢占式或非抢占式
抢占式
抢占式调度算法挑选一个进程，并且让该进程运行某个固定时段的最大值。如果在该时段结束时，该进程仍在运行，它就被挂起，而调度程序挑选另一个进程运行（如果存在一个就绪进程）。进行抢占式调度处理，需要在时间间隔的末端发生时钟中断，以便把CPU控制返回给调度程序，如果没有可用的时钟，那么非抢占式调度就是惟一的选择了。
这里有一个有趣的问题，就是这个固定时段的最大值设置为多少合适？
假如进程切换需要5毫秒，最大值为20毫秒，那么在做完20毫秒有用的工作之后，CPU将花费5毫秒来进行进程切换，在100毫秒内CPU时间就有20%被浪费在了进程切换上。
为了提高CPU效率，我们将最大值设为500毫秒，这时浪费的时间只有1%。但考虑在一个分时系统中，如果有十个交互用户几乎同时按下回车键，将发生什么情况？假设所有其他进程都用足它们的时间，最后一个不幸的进程不得不等待5秒钟才获取运行机会，这通常是用户无法忍受的。
所以这里得出一个结论：时间设得太短会导致过多的进程切换，降低CPU效率;而设得太长又可能引起对短的交互请求的响应变差。将时间片设为20ms-50ms通常是一个比较合理的折中。
非抢占式
非抢占式调度算法挑选一个进程，然后让该进程运行直至阻塞（阻塞在I/O上或等待另一个进程），或者直到该进程自动释放CPU。即使该进程运行了若干个小时，它也不会被强迫挂起。这样做的结果是，在时钟中断发生时不会进行调度。在处理完时钟中断后，如果没有更高优先级的进程等待到来，则被中断的进程会继续执行。
非抢占式调度最大的问题就是：每个进程需要多少CPU时间就占用多少CPU时间，只有进程主动释放CPU时，其他的进程才可以使用CPU。假如一个进程在执行一个耗时的操作，这就使其它进程一直处于“饿死”状态。
注：Windows3.x是使用的非抢占式，Windows95以后及UNIX,Linux最新内核（参见）都是使用的抢占式。
系统分类
不同的系统环境需要不同的调度算法，我们常常把系统分为以下三类
批处理系统
批处理系统，又名批处理操作系统。
所谓批处理是指用户将作业按照它位的性质分组（或分批），然后再成组（或成批）地提交给计算机系统，由计算机自动完成后再输出结果，从而减少作业建立和结束过程中的时间浪费。根据存放的作业数又可以将批处理系统分为：
- 单道批处理系统
- 多道批处理系统
具体参见。
在批处理系统中，不会有用户有不耐烦地在终端旁等待一个短请求的快捷响应。因此，非抢占式算法，或对每个进程都有长时间周期的抢占式算法，通常都是可以接受的。这种处理方式减少了进程的切换从而改善性能。
交互式系统
交互式操作系统是为达到人机交互目的而为机器所编写的操作系统。常见的交互操作系统有Windows，DOS等，在交互式系统当中，最常见的应该是：分时操作系统。
分时操作系统
在操作系统中采用分时技术的系统被称为分时系统，分时操作系统也被称为“事务处理使用的交互式操作系统”。
所谓分时技术就是把处理器的运行时间分成很短的时间片，按时间片轮流把处理器分配给各联机作业使用。若某个作业在分配给它的时间片内不能完成其计算，则该作业暂时停止运行，把处理器让给其他作业使用，等待下一轮再继续运行。由于计算机速度很快，作业运行轮转得很快，给每个用户的感觉好像是自己独占一台计算机。
在交互式用户环境中，为了避免一个进程霸占CPU拒绝为其他进程服务，抢占是必震的。即便没有进程想永远运行，但是，某个进程由于一个程序错误也可能无限期的排斥所有其他进程。为了避免这种现象发生，抢占也是必要的。服务器也归于此类，因为通常它们要服务多个突发的（远程）用户。
实时系统
为了能在某个时间限制内完成某些紧急任务而不需时间片排除，诞生了实时操作系统。这里面的时间限制可以分为两种情况：
1、如果某个动作必须绝对地在规定的时刻（或规定的时间范围）发生，则称为硬实时系统。例如，飞行器的飞行自动控制系统，这类系统必须提供绝对保证，让某个特定的动作在规定的时间内完成。
2、如果能够授受偶尔违反时间规定，并且不会引起任何永久性伤害，则称为软实时系统，如飞机订票系统，银行管理系统。
在实时操作系统的控制下，计算机系统接收到外部信号后及时进行处理，并且要在严格的时限内处理完成接收事件。
在实时操作系统中，抢占有时是不需要的，因为进程了解它们可能会长时间得不到运行，所以通常很快地完成各自的工作并阻塞。实时系统与交互式系统的差别是，实时系统只运行那些用来推进现有应用的程序，而交互式系统是通用的，它可以运行任意的非协作甚至是有恶意的程序。
实时操作系统的主要特点是及时性和可靠性。
调度算法的目标
为了设计调度算法，有必要考虑什么是一个好的调度算法？某些目标取决于环境（批处理、交互式或实时），但是还有一些目标是适用于所有情形的。
1、所有系统
- 公平：给每个进程公平的CPU份额
相似的进程应该得到相似的服务。对一个进程给予较其他等价的进程更多的CPU时间是不公平的。当然，不同类型的进程可以采用不同的处理方式。 - 策略强制执行：看到所宣布的策略执行
如果局部策略是，只要需要就必须运行安全控制进程（即便这意味着推迟30秒钟发薪），那么调度程序就必须保证能够强制执行该策略。 - 平衡：保持系统的所有部分都忙碌
如果CPU和所有I/O设备能够始终的运行，那么相对于让某些部件空转而言，每秒钟就可以完成更多的工作。
例如，在批处理系统中，调度程序控制哪个作业调入内存运行。在内存中既有一些CPU密集型进程又有一些I/O密集型进程是一个较好的想法。如果先调入所有CPU密集型进程，完成之后再调入所有I/O密集型进程，那么当CPU密集型进程运行时，它们就要竞争CPU，而磁盘却在空转。当I/O密集型进程运行时，它们又要竞争磁盘，而CPU又在空转。
2、批处理系统
- 吞吐量：每小时最大作业数
把所有的因素考虑进去之后，每小完成50个作业好于每小时完成40个作业。 - 周转时间：从提交到终止间的最小时间
该数据度量了用户要得到输出所需的平均等待时间，时间越小越好。 - CPU利用率：保持CPU始终忙碌
3、交互式系统
- 响应时间：快速响应请求
- 均衡性：满足用户的期望
用户对做一件事情需要多长时间总是有一种固有的看法（不过通常不正确）。当认为一个请求很复杂需要较多时间时，用户会接受这个看法，但是当认为一个请求很简单，但也需要较多的时间时，用户就会急躁。
4、实时系统
- 满足截止时间：避免丢失数据
实时系统的特点是或多或少必须满足截止时间。例如，如果计算机正在控制一个以正常速率产生数据的设备，若一个按时运行的数据收集进程出现失败，会导致数据丢失。所以，实时系统最主要的要求是满足所有的（或大多数）截止时间要求。 - 可预测性： 在多媒体系统中避免品质降低。
在多数实时系统中，特别是那些涉及多媒体的实时系统中，可预测性是很重要的。偶尔不能满足截止时间要求的问题并不严重，但是如果音频进程运行的错误太多，那么音质就会下降得很快。为了避免这些问题，进程调度程序必须是调度可预测和有规律的。
调度策略
1、先来先服务（FCFS、非抢占式）
使用该算法，进程按照它们请求CPU的顺序使用CPU。基本上，有一个就绪进程的单一队列。当第一个作业从外部进入系统，就立即开始并允许运行它所期望的时间。不会中断该作业，因为它需要很长的时间运行。当其也作业进入时，它们就被安排到队列的尾部。当正在运行的进程被阻塞时，队列中的第一个进程就接着运行。在被阻塞的进程变为就绪时，就像一个新来到的作业一样，排到队列未尾。
优点：易于理解并且便于在程序中运用。在这个算法中，一个单链表记录了所有就绪进程。要选取一个进程运行，只要从该队列的头部移走一个进程即可;要添加一个新的作业或阻塞一个进程，只要把该作业或进程附加在相应队列的末尾即可。
缺点：CPU和I/O设备得不到充分利用。
假如，有一个一次运行1秒钟的CPU密集型进程和每个都要进行1000次磁盘读操作的I/O密集型进程存在。CPU密集型进程运行1秒钟，接着I/O密集型进程开始读一个磁盘块，此时它将会被阻塞，加入到队列未尾。CPU密集型进程接着运行，依次循环，这样I/O密集型进程就要要等1000秒钟才能完成操作。如果有一个调度算法每10ms抢占计算密集型进程，那么I/O进程将在10秒钟内完成而不是1000秒钟，而且还不会对计算密集型进程产生多少延迟。
2、最短作业优先（SJF、非抢占式）
进程开始获取CPU一直运行直到完成或者由于某事件被阻塞放弃CPU，运行结束后从当前就绪队列选择“最短”的进程运行。该调度算法适用于运行时间可以预知的任务。
优点：可以有效减少周转时间
假如有A、B、C、D四个进程，分别要执行A（8），B（4），C（4)，D(4）分钟，按照原有次序运行作业：
则A的周转时间为8分钟，B为12分钟，C为16分钟，D为20分钟，平均（8+12+16+20）/4=14分钟
如果按照最短作业优先次序运行：
则B的周转时间为4分钟，C为8分钟，D为12分钟，A为20分钟，平均（4+8+12+20）/4=11分钟
缺点：利用短进程，长进程可能由于得不到CPU，而“饿死”。
有必要指出，只有在所有作业都可同时运行的情形下，最短作业优先算法才是最优化的。作为一个反例，考虑5个作业，从A到E，运行时间分别是2、4、1、1和1。它们的到达时间是0、0、3、3和3。 开始只能选择A或B，因为其他三个作业还没有到达。使用最短作业优先，将按照A、B、C、D、E的顺序运行作业，其平均等待时间是4.6。但是，按照B、C、D、E、A的顺序运行作业，其平均等待时间则是4.4。
3、最高响应比优先（HRP、非抢占式）
进程开始获取CPU一直运行直到完成或由于某事件被阻塞放弃CPU，运行结束从当前就绪队列选择最高响应比的进程投入运行。
响应比=（响应时间+运行时间）/运行时间
在响应时间固定的情况下，利于短进程。长进程随着等待时间变长，响应比会提高，因此长进程也能在足够长的时间被调度。
优缺点：利用短进程、长进程不会被饿死。
4、最短剩余时间（SRT、抢占）
使用这个算法，调度程序总是选择剩余运行时间最短的那个进程运行。有关的运行时间必须提前掌握。当一个新的作业到达时，其整个时间同当前进程剩余时间做比较。如果新的进程比当前运行进程需要更少的时间，当前进程就被挂起，而运行新的进程。
优缺点：利于短进程，开销大，不利于长进程。
5、轮转调度
每个进程被分配一个时间段，称为时间片，即允许该进程在该时间段中运行。如果在时间片结束时该进程还在运行，则将剥夺CPU并分配给另一个进程。如果该进程在时间片结束前阻塞或结束，则CPU立即进行切换。
时间片轮转调度很容易实现，调度程序所要做的就是维护一张可运行进程列表，如下图
当一个进程用完它的时间片后，就被移到队列的末尾，如下图
此算法是最古老、最简单、最公平且使用最广的算法
6、优先级调度
轮转调度做了一个隐含的假设，即所有的进程同等重要，而拥有和操作多用户计算机系统的人对此有不同的看法。例如，在一所大学里，等级顺序可能是教务长首先，然后是教授、秘书、后勤人员，最后是学生。这种将外部因素考虑在内的需要就导致了优先级调度。其基本思想很清楚：每个进程被赋予一个优先级，允许优先级最高的可运行进程先运行。
为了防止高优先级进程无休止地运行下去，调度程序可以在每个时钟滴答（即每个时钟中断）降低当前进程的优先级。如果这个动作导致该进程的优先级低于次高优先级的进程，则进行进程切换。一个可采用的方法是，每个进程可以被赋予一个允许运行的最大时间片，当这个时间片用完时，下一个次高优先级的进程获得机会运行。
优先级可以静态赋予或动态赋予。例如可以将一个进程的优先级设为100，也可以将一个进程的优先级设为1/f(f为该进程在上一时间片中所占的部分)。
可以很方便地将一组进程按优先级分成若干类，并且在各类之间采用优先级调度，而在各类进程的内部采用轮转调度。如图：
其调度算法如下：
只要存在优先级为第4类的可运行进程，就按照轮转法为每个进程运行一个时间片，此时不理会较低先级的进程。若第4类进程为空，则按照轮转法运行第3类进程。若第4类和第3类均为空，则按轮转法运行第2类进程。如果不偶尔对优先级进行调整，则低优先级进程很可能会产生饥饿现象。
除了上面介绍的几种算法以外，还有多级队列，多级反馈队列，保证调度，彩票调度等算法，此处不再一一的进行介绍，详细可见参考资料。
策略和机制
到目前为止，我们隐含地假设系统中所有进程分属不同的用户，并且，进程间相互竞争CPU。通常情况下确实如此，但有时也有这样的情况：一个进程有许多子进程并在共控制下运行。例如，一个数据库管理系统可能有许多子进程，每一个子进程可能处理不同的请求，或每一个子进程实现不同的功能（如请求分析，磁盘访问等）。主进程完全可能掌握哪一个子进程最重要（或最紧迫）而哪一个最不重要。但是，以上讨论的调度算法中没有一个算法从用户进程接收有关的调度决策信息，这就导致了调度程序很少能够做出最优的选择。
解决问题的方法是将调度机制与调度策略分离，也就是将调度算法以某种形式参数化，而参数可以由用户进程填写。我们再来看一下数据库的例子。假设内核使用优先级调度算法，但提供一条可供进程设置（并改变）优先级的系统调用。这样，尽管父进程本身并不参与调度，但它可以控制如何调度子进程的细节。在这里调度机制位于内核，而调度策略则由用户进程决定。
参考资料
1、《现代操作系统》
2、 http://www.cnblogs.com/riskyer/p/3249337.html
3、http://blog.csdn.net/kavensu/article/details/8075642
4、http://blog.csdn.net/u010889616/article/details/48424501
5、http://baike.baidu.com/item/%E6%97%B6%E9%97%B4%E7%89%87%E8%BD%AE%E8%BD%AC%E8%B0%83%E5%BA%A6%E7%AE%97%E6%B3%95/7170554
6、http://blog.csdn.net/russell_tao/article/details/7103012
