音视频之基础+渲染流程

常用图形API简介:

OpenGL(Open Graphics Library)是一个跨编程语言、跨平台的编程图形程序接口,它将计算机的资源抽象称一个个OpenGL的对象,对这些资源的操作抽象为一个个的OpenGL指令。
OpenGL ES(OpenGL for Embedded Systems)是OpenGL三维图形API的子集,针对手机PDA和游戏机等嵌入式设备而设计,去除了许多不必要和性能低的API的接口。
DirectX 是由很多API组成的,DirectX并不是一个单纯的图形API,最重要的是DirectX是属于Windows上一个多媒体处理API,并不支持Windows以外的平台,所以不是跨平台的框架,按照性质分类。可以分为四大部分:显示部分、声音部分、输入部分和网络部分。
Metal :Metal :Apple为游戏开发者退出了新的平台技术Metal,该技术能够为3D图像提高10倍的渲染性。Metal是Apple为解决3D渲染而推出的框架

OpenGL / OpenGL ES /Metal在任何项目中解决问题的本质就是利用GPU芯片来高效渲染图形图像,图形API是iOS开发唯一接近GPU的方式

  • OpenGL上下文【context】
    1.在应用程序调用任何OpenGL的指令之前,需要安排首先创建一个OpenGL的上下文。这个上下文是一个非常庞大的状态机,保存了OpenGL中的各种状态,这也是OpenGL指令执行的基础。
    2.OpenGL的函数不管在哪个语言中,都是类似C语言一样的面向过程的函数,本质是都是对OpenGL上下文这个庞大的状态机中的某个状态或者对象进行操作,当然你得首先把这个对象设置为当前对象。因此,通过对OpenGL指令的封装,是可以将OpenGL的相关封装成为一个面向对象的图形API
    3.由于OpenGL上下文是个庞大的状态机,切换上下文往往会产生比较大的开销,但是不同的绘制模块,可能需要使用完全独立的状态管理。因此,可以在应用程序中分别创建多个不同的上下文,在不同的线程中使用不同的上下文,上下文之间共享纹理、缓冲区等资源。这样的方案,会比反复切换上下文或者大量修改渲染状态,更加合理高效。

  • OpenGL状态机
    状态机是理论上的一种机器。状态机描述了一个对象在其生命周期内所经历的各种状态,状态间的转变,发生转变的动因,条件及转变中所执行的活动。或者说,状态机是一种行为,说明对象在其生命周期中响应事件所经历的状态序列以及对那些状态事件的响应
    有记忆功能,能记住其当前的状态
    可以接收输入,根据输入的内容和自己原先状态,修改当前自己状态,并且可以有对应输出
    当进入特殊状态(停机状态)的时候,便不在接收输入,停止工作
    类推到OpenGL中,可以理解为:
    OpenGL可以记录自己的状态(如当前所使用的颜色、是否开启了混合功能等)
    OpenGL可以接收输入(当调用OpenGL函数的时候,实际上可以看成OpenGL在接收我们的输入),如我们调用glColor3f,则OpenGL接收到这个输入后会修改自己“当前颜色”这个状态
    OpenGL可以进入停止状态,不再接收输入,在程序退出前,OpenGL总会先停止工作的
    渲染--> 将图像、图形数据转换成3D空间图像操作叫做渲染(Rendering)

  • 顶点数组【VertexArray】
    画图一般是先画好图像的骨架,然后再往骨架里面填充颜色,这对于OpenGL也一样。顶点数据就是要画的图像的骨架,和现实中不同的是,OpenGL中的图像都是由图元组成。在OpenGL中,有3中类型的图元:点、线、三角形这些顶点数据最终存储在哪里呢?开发者可以选择设定函数指针,在调用绘制方法的时候,直接由内存传入顶点数据,也就是说这部分数据之前是存储在内存中的,被称为顶点数组。
    顶点指的是我们在绘制一个图形时,它的顶点位置数据,而这个数据可以直接存储在数组中或者将其缓存到GPU内存中

  • 和顶点缓冲区【VertexBuffer】
    而性能更高的做法是,提前分配一块显存,将顶点数据预先传入到显存当中。这部分的显存,就被称为顶点缓冲区

  • 管线
    在OpenGL下渲染图形,就会有经历一个一个节点。而这样的操作可以理解管线。类似于流水线,任务之间有先后顺序,管线是一个抽象的概念,之所以称之为管线是因为显卡在处理数据的时候是按照一个固定的顺序来的,而且严格按照这个顺序

  • 固定管线/存储着色器
    在早起的OpenGL版本,它封装了很多种着色器程序块内置一段包含了光照、坐标转换、裁剪等等诸多功能的固定shader程序来完成,来帮助开发者完成图形的渲染,开发者只需传入相应的参数,就能快速完成图形的渲染。类似于iOS开发者会封装很多API,而我们只需要调用。就可以说实现功能,不需要关注底层的实现原理。
    但是OpenGL的使用场景非常丰富,固定管线或存储着色器无法完成每一个业务,这时将相关部分开放成可编程

  • 着色器程序Shader
    就全面的将固定渲染管线架构变为了可编程渲染管线。因此,OpenGL在实际调用绘制函数之前,还需要制定一个由shader编译成的着色器程序。常见的着色器主要有顶点着色器(VertexShader)片段着色器(FragmentShader)/像素着色器(PixelShader)几何着色器(GeometryShader)曲面细分着色器(TessellatiionShader)。片段着色器和像素着色器只是在OpenGL和DX中的不同叫法而已。OpenGL3.0 依然只支持顶点着色器和片段着色器这两个最基础的着色器。
    OpenGL在处理shader时,和其他编译器一样。通过编译、链接等步骤,生成了着色器程序(glProgram),着色器程序同时包含了顶点着色器和片段着色器的运算逻辑。在OpenGL进行绘制的时候,首先由顶点着色器对传入的顶点数据进行运算,再通过图元装配,将顶点转换为图元,然后进行光栅化,将图元这种矢量图形、转换为栅格化数据。最后将栅格化数据传入片段着色器中进行运算。片段着色器会对栅格化数据中的每一个像素进行运算,并决定像素的颜色。

  • 顶点着色器VertexShader
    一般用来处理图形每个顶点变换【旋转、平移、投影】
    顶点着色器是OpenGL中用于计算顶点属性的程序。顶点着色器是逐个顶点运算的程序,也就是说每个顶点数据都会执行一次顶点着色器,当然这是并行的,并且顶点着色器运算时无法访问其他顶点数据
    一般来说典型的需要计算的顶点属性包括顶点左边变换、逐个顶点关照运算等。顶点坐标由自身坐标系转换到归一化坐标器的运算,就是在这里发生的。

  • 片元着色器程序FragmentShader
    用来处理图形中每个像素点颜色计算和填充
    片元着色器是OpenGL中用于计算片段(像素)颜色的程序。片段着色器是这个像素运算,也就是说每个像素都会执行一次片段着色器,并行执行。

  • GGSL(OpenGL Shading Language)
    OpenGL着色语言(OpenGL Shading Language)是用来在OpenGL中着色编程的语言,也即是开发写的短小自定义程序,他们是在图形卡的GPU(Graphic Progcessor Unit图形处理单元)上执行的,代替了固定的渲染管线的一部分,使得渲染管线中不同层次具有可编程性。比如:试图转换、投影转换等。GLSL(GL Shading Language)的着色器代码分成两个部分:Vertex Shader(顶点着色器)Fragment(片段着色器)

  • 光栅化Rasterization
    把顶点数据转换为片元的过程,具有将图转化为一个个栅格组成的图像的作用,特点是每个元素对应帧缓冲区的一个像素。光栅化就是把顶点数据转换为片元的过程,片元中的每一个元素对应于帧缓冲区的一个像素。
    光栅化其实是一种将几何图元变为二维图像的过程。该过程包含了两个部分的工作。一:决定窗口坐标中的哪些整形栅格区域被基本图元占用;二:分配一个颜色值和一个深度值到各个区域。光栅化过程产生的是片元
    把物体的数学描述以及物体相关的颜色信息转换为屏幕上用于对应位置的像素及用于填充像素的颜色。这个过程被称为光栅化,这是一个将模拟信号转化为离散信号的过程。

  • 纹理
    纹理可以理解为图片。大家在渲染图形时需要在其编码填充图片,为了使得场景更加逼真。而这里使用的图片,就是常说的纹理。但是在OpenGL,我们习惯叫纹理,而不是图片

  • 混合(Blending)
    在测试阶段之后,如果像像素依然没有被剔除,那么像素的颜色将和帧缓冲区中的颜色附着上的颜色进行混合,混合的算法可以通过OpenGL的函数进行指定。但是OpenGL提供的混合算法是有限的,如果需要更加复杂的混合算法,一般可以通过像素着色器进行实现,当然性能会比原生的混合算法差一些。

  • 变换矩阵
    图形发生平移、缩放、旋转就需要使用变换矩阵实现

  • 投影矩阵
    用于将3D坐标转换为二维屏幕坐标,实际线条也将在二维坐标下绘制

  • 渲染上屏、交换缓冲区
    渲染缓冲区一般映射的是系统的资源:比如窗口,将图像直接渲染到窗口对应的缓冲区,则可以将图像显示到屏幕上,但是值得注意的是,如果每个窗口只有一个缓冲区,那么在绘制的过程中屏幕进行了刷新,窗口可能显示不完成图像?
    怎么办???
    常规的OpenGL程序至少会有两个缓冲区,显示在屏幕上的成为屏幕缓冲区,没有显示的成为离屏缓冲区。在一个缓冲区渲染完成后,通过将屏幕缓冲区和离屏缓冲区交换,实现图像在屏幕上显示,由于显示器的刷新是逐行进行的,因此为了防止交换缓冲区的时候,屏幕上下区域的图像分属于两个不同的帧,因此交换一般会等待显示器刷新完成的信号,在显示器刷新的间隔中进行交换,这个信号就垂直同步信号,使用双缓冲区和垂直同步技术后,由于总要等待缓冲区交换后再进行下一帧的渲染,是的帧率无法完全达到硬件允许的最高水平,为了解决这个问题,引入三缓冲区技术,在等待垂直同步时,来回交替渲染两个离屏的缓冲区,而垂直同步发生时,屏幕缓冲区和最近渲染完成的离屏缓冲区进行交换,实现充分利用硬件性能的目的

  • 渲染流程

    1. GPU获取图片的左边
    2. 将坐标交给顶点着色器(顶点计算)
    3. 将图片光栅化(获取图片对应屏幕上的像素点)
    4. 片元着色器计算(计算每个像素点的最终显示的颜色值)
    5. 从帧缓冲区渲染到屏幕上
      渲染管线
      9082112B468F3CDF5FDB5529C9233925.png
  • 下面代码就展示一个加载图片的优化:

//  Created by 随风流年 
//  Copyright © 2019 随风流年. All rights reserved.
//

#import "ViewController.h"
#import <CoreLocation/CoreLocation.h>

@interface ViewController ()
@property (nonatomic, weak) UIImageView *imageView;
@end

@implementation ViewController

- (void)viewDidLoad {
    [super viewDidLoad];

    [self image];

}
- (void)image{
    UIImageView *imageView = [[UIImageView alloc]init];
    imageView.frame = CGRectMake(100, 100, 100, 100);
    [self.view addSubview:imageView];
    self.imageView = imageView;
    dispatch_async(dispatch_get_global_queue(0, 0), ^{
        //获取CGImage
        CGImageRef cgImage = [UIImage imageNamed:@"img"].CGImage;
        
        // alphaInfo
        CGImageAlphaInfo alphaInfo = CGImageGetAlphaInfo(cgImage) & kCGBitmapAlphaInfoMask;
        BOOL hasAlpha = NO;
        if (alphaInfo == kCGImageAlphaPremultipliedLast ||
            alphaInfo == kCGImageAlphaPremultipliedFirst ||
            alphaInfo == kCGImageAlphaLast ||
            alphaInfo == kCGImageAlphaFirst) {
            hasAlpha = YES;
        }
        //bitmapInfo
        CGBitmapInfo bitmapInfo = kCGBitmapByteOrder32Host;
        bitmapInfo |= hasAlpha ? kCGImageAlphaPremultipliedFirst : kCGImageAlphaNoneSkipFirst;
        //size
        size_t width = CGImageGetWidth(cgImage);
        size_t height = CGImageGetHeight(cgImage);
        
        //context
        CGContextRef context = CGBitmapContextCreate(NULL, width, height, 8, 0, CGColorSpaceCreateDeviceRGB(), bitmapInfo);
        //draw
        CGContextDrawImage(context, CGRectMake(0, 0, width, height), cgImage);
        //get CGImage
        cgImage = CGBitmapContextCreateImage(context);
        //into UIImage
        UIImage *newImage = [UIImage imageWithCGImage:cgImage];
        //release
        CGContextRelease(context);
        CGImageRelease(cgImage);
        
        //back to main thread
        dispatch_async(dispatch_get_main_queue(), ^{
            self.imageView.image = newImage;
        });
        
    });
}
  • 它接受一个原始的位图参数cgImage,最终返回一个新的解压缩后的位图newImage 中间经过一下三个步骤:
  • 使用CGBitmapContextCreate函数创建一个位图上下文
  • 使用CGContextDrawImage函数将原始位图绘制到上下文中
  • 使用CGBitmapContextCreateImage创建一张新的解压缩后的位图
    事实上,SDWebImage中对图片的解压缩过程与上述完全一致,只是传递给CGBitmapContextCreate函数的部分参数存在细微差别
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 212,029评论 6 492
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 90,395评论 3 385
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 157,570评论 0 348
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,535评论 1 284
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 65,650评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,850评论 1 290
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,006评论 3 408
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,747评论 0 268
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,207评论 1 303
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,536评论 2 327
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,683评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,342评论 4 330
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,964评论 3 315
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,772评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,004评论 1 266
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,401评论 2 360
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,566评论 2 349

推荐阅读更多精彩内容