为了提高程序运行的性能，现代CPU在很多方面对程序进行了优化。
例如：CPU高速缓存。尽可能的避免处理器访问主内存的时间开销，处理器大多会利用缓存(cache)以提高性能.多核CUP有多个缓存
多级缓存
L1 Cache(一级缓存)是CPU第一层高速缓存，分为数据缓存和指令缓存。一般服务器CPU的L1缓存的容量通常为32-4096KB。
L2由于L1极高速缓存容量的现在，为了再次提高CPU的运算速度，在CPU外部放在一高速存储器，即二级缓存。
L3现在的都是内置的。而它的实际作用即是:L3缓存的应用可以进一步降低内存延迟，同时提升大数据量计算时处理器的性能。具有较大L3缓存的处理器提高更有效的文件系统缓存行为及较短消息和处理器度列长度。一般是多喝共享一个L3缓存。
CPU在读取数据时，先在L1中寻找，再从L2中寻找，再从L3中寻找，然后是内存，再后是外存储器。
缓存同步协议
多CPU读取同样的数据进行缓存，进行不同运算之后，最终写入主内存以哪个CPU为准？
在这种高速缓存回写的场景下，有一个缓存一致协议多数CPU厂商对它进行了实现。
MESI协议，它规定每条缓存有个状态位，同时定义了四种状态：
修改态(Modified) : 此Cache行已被修改过(脏行)，内容已不同于主存，为此cache专有。
专有态(Exclusive)：此cache行内容同于主存，但不出现于其他cache中。
共享态(Shared)：此cache行内容同于主存，但也不出现于其他cache中。
无效态(Invalid)：此cache行内容无效(空行)。
多处理器时，单个CPU对缓存中数据进行改动，需要通知给其他CPU。也就意味着，CPU处理要控制自己的读写操作，还要监听其他CPU发出的通知，从而保证最终一致。
CPU性能优化手段 - 运行时指令重排
指令重排的场景：当CPU写缓存时发现缓冲区正被其他CPU占用，为了提高CPU处理性能，可能将后面的读缓存命令有效执行。
并非随意重排，需要遵守as-if-serial语义：不管怎样重排序(编译器和处理器为了提高并行度)，（单线程）程序的执行结果不能被改变。编译器，runtime和处理器都遵守as-if-serial语义。也就是说：编译器和处理器不会对存在的数据依赖你关系的操作重排序。
两个问题
1.CPU高速缓存下一个问题：
缓存中的数据与主内存的数据并不是实时同步的，各CPU(或CPU核心)间缓存的数据也不是实时同步。在同一时间点，各CPU所看到同一内存地址的数据的值可能是不一致的。
2.CPU执行指令重排序优化下的一个问题：
虽然遵守了as-if-serial语义，但仅在单CPU自己执行的情况下能保证结果正确。
多核多线程中，指令逻辑无法分辨因果关联，可能出现乱序执行，导致程序运行结果错误。
内存屏障
处理器提供了两个内存屏障指令(Memory Barrier)用于解决上述两个问题：
写内存屏障(Store Memory Barrier)：在指令后插入Store Barrier,能让写入缓存中的最新数据更新写入主内存，让其他线程可见。
强制写入主内存，这种显示调用，CPU就不会因为性能考虑而对指令重排。
读内存屏障((Load Memory Barrier)：在指令前插入Load Barrier,可以让高速缓存中的数据失效，强制从新主内存加载数据。
强制读取主内存内容，让CPU缓存与主内存保存一致，避免了缓存导致的一致性问题。
