iOS-视频大纲总结

本次博客思路来自与公司的一次技术分享。前段时间被公司委派做视频相关的开发,就把视频总体内容梳理一下当做备忘。

下面是本博文的写作思路:

iOS-视频大纲总结.png

流媒体数据接收到播放

在网络传输过程中我们接收到相关媒体数据要经过一些列的处理来实现对媒体数据的播放,具体过程如下图:

iOS 视频播放流程图.png

可以看出我们在获取流媒体协议需要经过一下处理方式:

解协议 ---> 解封装 ---> 音视频的解码 (实现音视频同步 & 播放)

流媒体数据解析

在获取流媒体数据后,要对其进行协议的解析来获取封装的媒体数据进行播放。我们常见的协议:HTTPRTMPMMS媒体协议

协议简介

<ul>
<li>HTTP:超文本传输协议(HyperText Transfer Protocol)是一个客户端(用户)和服务端(网站)请求和应答的标准。
参考地址:
</li>

<li>RTMP:实时信息传输协议(Real Time Message Protocol)基于TCP实现持久链接和低延迟通信。流分解成片,客户端和服务端可设置大小(音:64,视频:128)。
参考地址1:
参考地址2:</li>

<li>MMS:串流媒体传送协议(Microsoft Media Server)用来访问并流式接受 Windows Media 服务器中 .asf 文件协议。
参考地址:</li>

<li>HLS:流媒体网络传输协议(HTTP Live Streaming)把数据源分解为基于 HTTP 的片段,每次下载一些。下载数据之前需要一个包含数据的 m3u8 playlist文件来查找可用的媒体流。
参考地址:
</li>

<li>RTP:实时传输协议(Real-time Transport Protocol)被设置为多播协议,和 RTP 协议、RTP 控制协议一起使用。
参考地址:</li>

<li>RTCP:实时传输控制协议(Real-time Transport Protocol)搜集媒体链接统计信息,为 RTP 提供服务质量反馈。
参考地址:
</li>

<li>RTSP:实时流协议,用于建立和控制终端之间的媒体会话,和 RTP 、RTCP 结合的,媒体流传输。
参考地址:</li>
</ul>

媒体封装格式

媒体封装就是把视频数据和音频数据进行按照一定的格式进行封装。我们常见的封装格式:AVIMP4TSFLVMKVRMVB

媒体封装格式简介

下面是对媒体封装格式的整理和简介:

媒体封装格式整理.png

音视频编码格式

在音视频录制完成后为方便传输需要对其进行编码压缩处理,我们常见的音视频编码格式:

视频编码格式:H.264H.265(HEVC)MPEG4MPEG2VP9VP8VC-1

音频编码格式:AACAC-3MP3WMP

视音频编码格式

视音频编码格式.png

编码格式地址

下面是编码格式地址:

H.264 :

地址 链接
地址1 https://zh.wikipedia.org/wiki/H.264/MPEG-4_AVC
地址2 https://abson.github.io/2016/11/15/深入浅出理解视频编码H264结构/

H.265 :

地址 链接
地址1 www.4k123.com/thread-6369-1-1.html

AAC:

地址 链接
地址1 www.4k123.com/thread-6369-1-1.html

AC-3:

地址 链接
地址1 blog.csdn.net/leixiaohua1020/article/details/11822737

MP3:

地址 链接
地址1 https://zh.wikipedia.org/zh-hans/MP3

解码简介

在视频播放过程中我们需要对视频进行解码处理,常见的解码方式:硬解码和软解码。

解码方式简介

软解码&硬解码对比.png

编码资料地址

|框架名称 | 资料地址-1 | 资料地址-2
| ------------- |:-------------
|AVFoundation | http://yoferzhang.com/post/20160803AVFoundation01Introduction/ | http://www.superqq.com/blog/2015/08/24/avfoundation-gpuimage-find/|
| VideoToolBox | http://www.4k123.com/thread-6369-1-1.html |
|FFMpeg | blog.csdn.net/leixiaohua1020/article/category/1360795 | www.tuicool.com/articles/22A7na3 |

CPU & GPU 的参考:

框架名称 资料地址-1
CPU https://zh.wikipedia.org/wiki/中央处理器
GPU https://zh.wikipedia.org/zh/圖形處理器

AVFoundation 框架介绍

AVFoundation 可以用来播放和创建基于时间视听媒体的框架之一,提供基于时间的视听数据详细的 Objective-C上的接口。

AVFoundation 功能介绍

使用 AVFoundation 可以实现视频的播放、编辑、静态媒体的捕捉、输出和时间媒体的表现等功能,如果仅仅是播放电影的话可以使用 AVKit框架。

AVFoundation 接口介绍

iOS-AVFoundation-AVMutableComposition-AVAssetTrack.png
iOS-AVFoundation-AVMutableComposition-AVMutableAudioMix.png
iOS-AVFoundation-AVMutableComposition-AVMutableVideoComposition.png
iOS-AVFoundation-AVMutableComposition-AVAssetExportSession.png

AVFoundation 类继承关系

公司分享 PPT 下载地址

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 214,875评论 6 496
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,569评论 3 389
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 160,475评论 0 350
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,459评论 1 288
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,537评论 6 386
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,563评论 1 293
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,580评论 3 414
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,326评论 0 270
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,773评论 1 307
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,086评论 2 330
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,252评论 1 343
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,921评论 5 338
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,566评论 3 322
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,190评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,435评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,129评论 2 366
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,125评论 2 352

推荐阅读更多精彩内容