1、并发和高并发的基本概念
- 并发:
同时拥有两个或者多个线程,如果程序在单核处理器上运行,多个线程将交替地换入或者换出内存,这些线程是同时‘存在’的,每个线程都处于执行过程中的某个状态,如果运行在多核处理器上,程序中的每个线程都将分配到一个处理器核上,因此可以同时运行。
多个线程操作相同的资源,保证线程安全,合理使用资源。
- 高并发
高并发(High Concurrency) 是互联网分布式系统架构设计中必须考虑的因素之一,通过设计保证系统能够
同时并行处理
很多请求。服务能够同时处理很多请求,提高程序性能。
2、CPU多级缓存
CPU缓存的背景原因: CPU 的频率越来越快,快到主存跟不上,这样在处理器时钟周期内,CPU常常需要等待主存,浪费资源。所以cache的出现,是为了缓解CPU和内存之间速度的不匹配问题(结构: cpu -> cache ->memory)
-
CPU cache的意义
- 1、时间局部性: 如果某个数据被访问,那么在不久的将来它可能被再次访问。
- 2、空间局限性:如果某个数据被访问,那么与它相邻的数据很快也可能被访问。
-
CPU多级缓存 - 缓存一致性(MESI)
用于保证多个CPU cache之间缓存共享数据的一致。
-
缓存块的几种状态
- modified(修改):缓存块已经被修改,必须被写回主存,其他处理器不能再缓存这个块
- exclusive(互斥):缓存块还没有被修改,且其他处理器不能装入这个缓存块
- share(共享):缓存块未被修改,且其他处理器可以装入这个缓存块
- invalid(无效):缓存块中的数据无效
-
CPU的读取遵循下面几点:
如果缓存状态是I,那么就从内存中读取,否则就从缓存中直接读取。
如果缓存处于M或E的CPU读取到其他CPU有读操作,就把自己的缓存写入到内存中,并将自己的状态设置为S。
只有缓存状态是M或E的时候,CPU才可以修改缓存中的数据,修改后,缓存状态变为M。
上图展示了MESI高速缓存一致性协议的状态转换实例。
- 在1中,处理器A从地址a读取数据,将数据存入它的缓存并置为exclusive
- 在2中,当处理器B试图从相同地址a读取数据时,A检测到地址冲突,以相关数据做出响应。此时a同时被A和B以shared状态装入缓存
- 在3中,当B要对共享地址a进行写操作,则将状态改为modified,并广播提醒A,让它将它的缓存块状态设置为Invalid
- 在4中,当A试图从a读取数据,会广播它的请求,B则把它修改的数据发送到A和主存,并设置两个副本的状态为shared来做出响应
-
CPU多级缓存-乱序执行优化
- 处理器为了提高运算速度而做出违背代码原有顺序的优化。
3、Java内存模型(JMM)
Java内存模型(Java Memory Model),定义了JVM在计算机内存上的工作方式。JVM是对整个计算机的虚拟模型,所以JMM是隶属于JVM的。如果我们要想深入了解Java并发编程,就要先理解好Java内存模型。Java内存模型定义了多线程之间共享变量的可见性以及如何在需要的时候对共享变量进行同步。
-
1、堆:(存放由new创建的对象和数组)
引用类型的变量,内存分配一般在堆上或者常量池(字符串常量,基本数据类型常量),需要通过new等方式来创建。
首先堆内存主要作用是存放运行时new的对象和数组,存取速度慢,可以运行时动态分配内存。
-
2、栈:(基本数据类型变量,对象的引用变量)
基本数据类型变量(int,short,long,byte,float,double,boolean,char)以及对象的引用变量,内存分配在栈上。变量出了作用域就会自动释放。
由于栈是后进先出模式的。主要用于执行程序,存取速度快,大小生存期必须确定,也就是有作用域,缺乏灵活性。
-
3、补充说明: 变量存储
一个本地变量如果是原始类型,那么它会被完全存储到栈区。
一个本地变量也有可能是一个对象的引用,这种情况下,这个本地引用会被存储到栈中,但是对象本身仍然存储在堆区。
对于一个对象的成员方法,这些方法中包含本地变量,仍需要存储在栈区,即使它们所属的对象在堆区。
对于一个对象的成员变量,不管它是原始类型还是包装类型,都会被存储到堆区。
Static类型的变量以及类本身相关信息都会随着类本身存储在堆区
4、Java 内存模型和硬件架构之间的关联
5、Java 内存模型 - 同步规则
八种同步操作
1.lock(锁定):作用于主内存的变量,把一个变量标识变为一条线程独占状态
2.unlock(解锁):作用于主内存的变量,把一个处于锁定状态的变量释放出来,释放后的变量才可以被其他线程锁定
3.read(读取):作用于主内存的变量,把一个变量值从主内存传输到线程的工作内存中,以便随后的load动作使用
4.load(载入):作用于工作内存的变量,它把read操作从主内存中得到的变量值放入工作内存的变量副本中
5.use(使用):作用于工作内存的变量,把工作内存中的一个变量值传递给执行引擎
6.assign(赋值):作用于工作内存的变量,它把一个从执行引擎接受到的值赋值给工作内存的变量
7.store(存储):作用于工作内存的变量,把工作内存中的一个变量的值传送到主内存中,以便随后的write的操作
8.write(写入):作用于主内存的变量,它把store操作从工作内存中一个变量的值传送到主内存的变量中
同步规则
1.如果要把一个变量从主内存中赋值到工作内存,就需要按顺序得执行read和load操作,如果把变量从工作内存中同步回主内存中,就要按顺序得执行store和write操作,但java内存模型只要求上述操作必须按顺序执行,没有保证必须是连续执行
2.不允许read和load、store和write操作之一单独出现
3.不允许一个线程丢弃他的最近assign的操作,即变量在工作内存中改变了之后必须同步到主内存中
4.不允许一个线程无原因地(没有发生过任何assign操作)把数据从工作内存同步到主内存中
5.一个新的变量只能在主内存中诞生,不允许在工作内存中直接使用一个未被初始化(load或assign)的变量。即就是对一个变量实施use和store操作之前,必须先执行过了load和assign操作
6.一个变量在同一时刻只允许一条线程对其进行lock操作,但lock操作可以同时被一条线程重复执行多次,多次执行lock后,只有执行相同次数的unlock操作,变量才会解锁,lock和unlock必须成对出现
7.如果一个变量执行lock操作,将会清空工作内存中此变量的值,在执行引擎中使用这个变量前需要重新执行load或assign操作初始化变量的值
8.如果一个变量事先没有被lock操作锁定,则不允许他执行unlock操作,也不允许去unlock一个被其他线程锁定的变量
9.对一个变量执行unlock操作之前,必须先把此变量同步到主内存中(执行store和write操作)