初识图形API
*********** OpenGL (Open Graphics Library) ***********
是⼀个跨编程语⾔言、跨平台的编程图形程序接口,它将计算机的资源抽象称为⼀个OpenGL的对象,对这些资源的操作抽象为⼀个的OpenGL指令。
基于OpenGL还能解决的问题: ---> 渲染问题 |
---|
1.系统针对按钮、图片、视图、图层渲染问题 |
2.游戏引擎 :人物、场景渲染(coco2D里面包含了OpenGL) |
3.视频播放框架 ---> ijkplayer、kxmovie 视频解码 ---> 渲染 |
4.核心动画 ---> 动画操作(旋转、缩放、移动、图层效果) |
5.视频、图片的特效 |
6.离屏渲染 |
*********** OpenGL ES(OpenGL for Embedded Systems) ***********
是 OpenGL三维图形 API 的⼦子集,针对⼿手机、 PDA和游戏主机等嵌⼊入式设备⽽而设计,去除了了许多不不必要和性能较低的API接⼝口。
*********** DirectX ***********
是由很多API组成的,DirectX并不不是⼀个单纯的图形API. 最重要的是DirectX是属于 Windows上⼀个多媒体处理理API。并不支持Windows以外的平台,所以不是跨平台框架, 按照性 质分类,可以分为四⼤大部分,显示部分、声⾳音部分、输⼊入部分和⽹网络部分。
*********** Metal ***********
Apple为游戏开发者推出了了新的平台技术Metal,该技术能够为 3D 图像提⾼高 10 倍的渲染性能。Metal是Apple为了了解决3D渲染⽽而推出的框架。
图形API名词解析
*********** OpenGL上下文(context) ***********
1.在应用程序调用任何OpenGL的指令之前,首先需要创建一个OpenGL的上下文。这个
上下文是一个非常庞大的状态机,保存了OpenGL重的各种状态
,这也是OpenGL指令执行的基础。
2.OpenGL的函数不管在哪个语言中,都是类似C语言一样的面向过程的函数。本质上都是对OpenGL上下文这个庞大的状态机中的某个状态或者对象进行操作。
通过对OpenGL指令的封装,可以将OpenGL的相关调用封装成为一个面向对象的图形API
。
3.由于OpenGL上下文是一个巨大的状态机,切换上下文往往会长生较大的开销,但是不同的绘制模块,可能需要使用完全独立的状态管理。因此,可以在应用程序中分别创建多个不同的上下文,在不同线程中使用不同的上下文,
上下文之间共享纹理、缓冲区等资源
。这样的方案会比反复切换上下文,或者大量修改渲染状态更加合理高效。
*********** OpenGL 之 context:状态机 ***********
状态机可以理解为一台可以保存状态,并根据当前状态进行相应输出的机器
记忆功能,保存当前状态(比如当前使用的颜色、是否开启了混合功能等)接收输入,修改当前状态,或根据当前状态进行输出(比如调用glColor3f,则OpenGL接收到这个输入后会修改自己的“当前颜色”这个状态)
当进⼊特殊状态(停机状态)时,不再接收输⼊,停⽌工作(在程序退出前,OpenGL总会先停止工作)
context:状态机重点
1. OpenGL指令执行的基础就是一个非常庞大的状态机
2. OpenGL上下文切换开销大。虽然可能使用多个上下文,但上下文之间会共享纹理、缓冲区等资源
3. OpenGL的函数虽然是面向过程的,但可以把相关的调用封装为面向过程的图形API
*********** OpenGL 之 渲染 ***********
将图形/图像数据转换成3D空间图像操作叫做渲染(Rendering)。
比如解码后的图片需要用OpenGL来进行渲染
*********** OpenGL 之 顶点数组和顶点缓冲区 ***********
顶点数组和顶点缓冲区 |
---|
1.顶点数据就是图像的轮廓。OpenGL中的图像都是由图元组成。OpenGL ES中,有3种类型的图元: 点、线、三角形。(首先OpenGL没有正方形概念的,所以分两个三角形来拼起来),如果不规则的图形就会用点或线来描。 |
2.OpenGL处理一张图片的显示是由顶点和纹理两个环节构成。 |
3.纹理 ---> 位图 :比如图片像素120 *120 = 14400 再乘以 4个字节(RGBA --> 4个字节) |
4.在调用绘制方法的时候,直接由内存传入顶点数据,也就是说这部分数据之前是存储在内存当中的,被称为顶点数组(VertexArray) |
5.而性能更高的做法是,提前分配一块显存,将顶点数据预先存入到显存当中。这部分的显存,就被称为顶点缓冲区(VertexBuffer) |
*********** OpenGL 之 管线 ***********
在OpenGL下渲染图形,就会经历一个一个的节点,而这样的操作可以理解为管线。就像一个流水线,任务按照先后顺序依次执行。管线是一个抽象的概念,之所以称之为管线:是因为
显卡在处理数据的时候是按照一个固定的顺序来的,而且严格按照这个顺序
。(就像盖楼一样,要一层一层来起的)。
*********** OpenGL 之 固定管线(固定着色器) ***********
1.在早期的OpenGL版本,封装了多种着色器程序块,内置了一段包含光照、坐标变换、裁剪等诸多功能的固定着色器程序来完成,来帮助开发者来完成图形的渲染。开发者只需要传入相应的参数,就能快速完成图形的渲染。
2.类似于iOS开发会封装很多API,而我们只需要调用,就可以实现功能,不需要关注底层实现原理。但是由于OpenGL的使用场景非常丰富,固定管线或存储着色器无法完成每一个业务,这时将相关部分开发成可编程形式。
固定管线(固定着色器)重点 |
---|
1.比如iOS系统方法只能按照系统提供的方法来调用,而不能修改系统方法的实现 |
2.在早期的OpenGL版本,封装了多种着色器程序块。 |
3.由于提供的功能有限,后期变成了可编程形式,可以自定模具(OpenGL ES GLSL 语法来驱使GPU) |
*********** OpenGL 之 着色器 ***********
1.OpenGL在实际调用绘制函数之前,还需要指定一个由着色器编译成的着色器程序。常见的着色器主要有
顶点着色器(VertexShader)、片段着色器(FragmentShader) / 像素着⾊器(PixelShader)、几何着⾊器(GeometryShader)、曲⾯细分着⾊器(TessellationShader)
2.片段着色器(FragmentShader) / 像素着⾊器(PixelShader)
在OpenGL和DX中的不同叫法而已
3.可惜的是,知道OpenGL ES3.0,OpenGL ES依然只支持顶点着色器和片段着色器这个最基本的着色器。
4.OpenGL在处理着色器时,和其他编译器一样,通过编译、链接等步骤,生成了着色器程序(glProgram),着色器程序同事包含了顶点着色器和片段着色器的运算逻辑。
5.在OpenGL进行绘制的时候,首先由顶点着色器对传入的顶点数据进行运算,在通过图元装配,将顶点转换为图元,然后进行光栅化,将图元这种矢量图形转换为栅格化数据。最后将栅格化数据传入片段着色器中进行运算,片段着色器会对栅格化数据中的每一个像素进行运算,并决定像素的颜色
。
着色器要点: |
---|
1.将固定渲染管线架构变为了可编程渲染管线 |
2.常见的着色器主要有顶点着色器、片段着色器/像素着色器。(几何着色器、曲面细分着色器 ----> OpenGL是不开放自定义的) |
3.OpenGL ES只支持顶点着色器和片段着色器 |
4.OpenGL通过编译、链接等步骤将生成着色器程序 |
5.OpenGL进行绘制 ---> 由顶点着色器对传入的顶点数据进行运算 ---> 通过图元装配 ----> 将顶点转换为图元 ---> 将顶点转换为图元 ----> 将栅格化数据传入片段着色器中进行运算 -----> 片段着色器会对栅格化数据中的每一个像素进行运算,并决定像素的颜色 |
*********** OpenGL 之 顶点着⾊器 ***********
1.顶点着色器是OpenGL中用于计算顶点属性的程序。
2.一般来说典型的需要计算顶点属性主要包括顶点坐标变换、逐顶点光照运算等等,顶点坐标由自身坐标系转换到归一化坐标的运算,就是在这里发生的。
3.顶点着色器是逐顶点运算的程序,也就是说每个顶点数据都会执行一次顶点着色器。当然这是并行的,并且顶点着色器运算过程中无法访问其他顶点的数据。
顶点着⾊器要点: |
---|
1.确定位置 |
2.一般用来处理图形每个顶点变换(旋转、平移、缩放)位置换算 |
3.3D图像数据 ---> 2D图像数据 |
4.并行计算,且运算过程中⽆法访问其他顶点的数据。 |
*********** OpenGL 之 片段着⾊器(FragmentShader) --- (像素着色器) ***********
- 片段着色器是OpenGL中用于计算片段(像素)颜色的程序。
一般用来处理图形中每个像素点颜色计算和填充。
2.片段着色器是逐像素运算的程序,也就是说每个像素都会执行一次片段着色器,GPU会并行计算,且运算过程中无法访问其他顶点数据。
*********** OpenGL 之 GLSL(OpenGL Shading Language) ***********
1.GLSL着色器语言是用来在OpenGL中着色编程的语言,是在图形卡的GPU上执行的。
代替了固定的渲染管线的一部分,使渲染管线中不同层次居右可编程性。( 视图转换、投影转换等 )
2.GLSL(GL Shading Language)的着色器代码分成2个部分:
Vertex Shader(顶点着⾊器)和Fragment(⽚断着⾊器)。
3.GLSL是用于OpenGL或OpenGL ES的标准来调用GPU来做计算,而苹果的Metal跟OpenGL是不一样的语言。
*********** OpenGL 之 光栅化(Rasterization) ***********
1.
光栅化就是把顶点数据转换为片元的过程。
具有将图转化为一个个栅格组成的图像,特点是每个元素对应帧缓冲区中的一像素。
2.光栅化其实是一种将几何图元变为二位图像的过程。该过程包含了两部分的工作。
2.1 决定窗口坐标中的哪些整型栅格区域被基本图元占用
2.2 分配一个颜色值和一个深度值到各个区域。
- 把物体的数学描述以及物体相关的颜色信息转换为屏幕上用于对应位置的像素及用于填充像素的颜色,这个过程称为光栅化。这时一个将模拟信号转化为离散信号的过程。
*********** OpenGL 之 纹理 ***********
纹理可以理解为图片。
在渲染图形时需要在顶点围成的区域中填充图片,使场景更加逼真。而这里的图片就是常说的纹理。在OpenGL里习惯叫纹理。
*********** OpenGL 之 混合(Blending) ***********
1.在测试阶段后,如果像素依然没有被剔除,那么
像素的颜色将会和帧缓冲区中颜色附着上的颜色进行混合,
混合的算法可以通过OpenGL的函数进行指定。(OpenGL提供的混合算法有限)
2.如果需要更加复杂的混合算法,一般可以通过片段着色器进行实现,当然性能会比原生的混合算法差一些。
*********** OpenGL 之 矩阵 ***********
1.变换矩阵(Transformation) ----> 比如图形想发生
平移、缩放、旋转
等变换,就需要使用变换矩阵。
- 投影矩阵(Projection) ------> 用于将3D坐标转换为二维屏幕坐标,实际线条也将在二维坐标下进行绘制。
3.正投影(平行投影):图片绘制不管远近 1:1进行绘制。
透视投影 :远小近大的效果 显示3D图片
*********** OpenGL 之 渲染上屏/交换缓冲区(SwapBuffer) ***********
1.渲染缓冲区一般映射的是系统的资源(例如窗口)。如果将图像直接渲染到窗口对应的渲染缓冲区,则可以将图像显示到屏幕上。
2.值的注意的是,如果每个窗口只有一个缓冲区,那么在绘制过程中屏幕进行了刷新,窗口可能显示出不完整的图像。
3.为了解这个问题,常规的OpenGL程序至少都会有两个缓冲区。显示屏幕上的称为屏幕缓冲区,没有显示的称为离屏缓冲区。
4.由于显示器的刷新一般是逐行进行的,为了防止交换缓冲区的时候屏幕上下区域的图像分属于两个不同的帧,交换一般会等待显示器刷新完成的信号,在显示器两次刷新的间隔中进行交换,这个信号被称为垂直同步信号,这个技术称为垂直同步。
5.使用了双缓冲区和垂直同步技术后,由于总是要等待缓冲区交换之后再进行下一帧的渲染,使得帧率无法完全达到硬件允许的最高水平,为了解决这个问题,引入了三缓冲区技术,在等待垂直同步时,来回交替渲染两个离屏的缓冲区,而垂直同步发生时,屏幕缓冲区和最近渲染完成的离屏缓冲区交换,
实现充分李彤硬件性能的目的。