Android视频开发进阶(part2-MP4文件的解析)

上一期文章我分享了一些视频播放里面的术语和基本概念。这一篇文章我会主要介绍容器(container format file)格式文件的细节,以最常见的MP4文件入手。然后会简短的介绍一个标准的播放器的启动,解析,播放流程。本篇还是以基础知识为主,虽然很枯燥,但是对视频开发的学习有非常大的好处,我自己个人的感受就是,如果在很多专有名字,概念都不熟悉的情况下,想要去阅读播放器源码会是相当困难的事情。比如Exoplayer,谷歌的分包策略就是根据播放器的组件来分包。如果不熟悉播放器的基础构建的话,连哪个部分的代码在哪个包都不知道。希望大家如果真的想进阶的话还是耐心的理解好每个基础概念。

  1. Mp4格式文件的构成
  2. Mp4头文件的构成
  3. 标准播放器的启动流程
  4. 在线视频播放的技术基础(online video streaming)

1. Mp4格式文件的构成

在上期我们大概介绍了Mp4文件的结构

但是这样抽象的介绍可能还是比较难理解,我们深入一些。

1.1 MP4到底是个啥?

通俗的说,MP4其实是一种格式的规范,这个规范是被ISO机构认证的,也就是说,只要你通过Codec生成了一个mp4文件,那么这个文件的格式必须是按照ISO机构的规矩来。。。。既然是规范,那么我们看看到底ISO对mp4做了什么规范:

请大家打开链接->ISO的mp4文件规范

大家可能会有点懵逼,看不懂。其实这个规范很好理解,它定义了一个MP4文件里面,哪些数据应该放在什么位置(以字节为单位),哪些数据的长度是多少。我截取了一段:

大家看,上面这一段规范定义了ftyp这个头文件header所在的位置和长度(以字节为单位)。
至于这些头文件是有什么用,我在上一篇文章大概提到过,他们属于meta data的一部分。在本章我会更详细的介绍。

所以说,任何容器,包括mp4都是类似的结构化文件,只不过不同的格式文件ISO对其有严格的要求,数据的摆放顺序,排列等等不同而已。有兴趣的同学可以对比一下rmvb,mp4,mkv这些格式的要求有什么不同,优劣势各是什么。

2.Mp4头文件的构成

关于mp4文件的头文件格式(meta data),苹果官网对其进行了详细的描述(这个介绍是基于QuickTime播放器支持的mp4文件来介绍的,quciktime播放器对mp4的要求有些许不同,但是差别不大,我们可以忽略):

Movie Atom

我们不追究太多细节,有兴趣的同学可以自己查看,我们专注于一些基础的信息。

首先,在Meta Data里面,每一个Header,头文件,我们都叫他们Atom Header(不知道咋翻译)。Atom Header分为Leaf Atom 和 Container Atom。前者代表一个连接着字符串信息的头文件,后者是一个包含了若干个子Atom的头文件,他们互相之间是有层级关系的(参考上图)。每次播放器获取了movie atom之后(moov),会根据层级关系,向下,或者向下读取相关的其他信息。每一个头文件都会对它的子头文件保存位置的引用,所以只要根据mp4文件的规范获取了最顶级的头文件moov,就可以顺势往下读取其他头文件了。

我们来看看mp4的头文件结构

看起来很复杂,但是对于一个播放器来说,很多信息都不是必须。我们需要知道的最重要的信息是采样索引表(Sample Table Atoms).对应图中“**stbl **”这个atom header。这个索引表保存了mp4文件所有的采样(sample)与视频时间的对应关系(一般以微秒为单位),还有包括每个采样的大小,在mp4文件中的起始位置(以自己为单位)。

3.标准播放器的启动流程

那么既然我们已经知道一个容器文件的格式规范了,播放器就可以通过解析容器的头文件来控制播放(playback)了。

3.1 播放器

通常播放器由三个部分构成

  1. 读取器(Extractor)
  2. 渲染器(TrackRenderer)
  3. 加载控制器(Load Controller)
  4. 数据源(Source)

读取器负责从source文件读取数据,加载控制器负责控制读取数据的策略(比如说在线视频播放的时候缓冲策略),渲染器负责接收读取器读取的数据,并渲染到屏幕上。

3.2 播放器的播放过程

在播放器可以把数据提交给渲染器之前,播放器需要把必需的头文件全部解析并存入内存,比如之前说的采样索引表。一般播放器在解析完毕后,会构建三个个表,一个存放时间对应采样索引,一个存放采样索引对应在mp4文件中的起始位置(以字节为单位),一个存放采样索引对应大小(以字节为单位)。以下图为例

假设播放器需要从第1微秒开始播放,那么需要把第1微秒的数据放入渲染器。所以会查找下面这三个表。

通过表1,我们知道该微秒对应第1个采样(sample),从第一个和第二个表我们知道,第1个采样的数据范围(在mp4文件内)是从第0字节到300(0+300)字节,那么播放器就会去读取这个范围的数据并且放入渲染器中进行渲染。

同时,加载器会基于当前已经缓存的数据,决定是否还需要不停的读取数据进入内存。一般来说每个播放器都有默认的缓存值,也会有一个基准线,只有当缓存足够数据才能放进渲染器进行渲染。

最后同理,当我们拖动滑动控制器(SeekBar)想快进的时候,我们和第一步一样,通过我们想滑动的时间获取采样的索引,再重新开始读取数据。

综上所述,播放器在正式播放视频文件之前,必须要把头文件全部读取并解析(这会是一段非常耗时的程序),这也是在线视频播放的等待时间的瓶颈。在接下来的章节我会介绍自适应视频播放(Adaptive Streaming),这个技术的发明使得了分段式mp4文件(Fragmented Mp4)技术得以诞生,大大的减少了在线视频播放的等待时间。

4.在线视频播放的技术基础(online video streaming)

在线视频的播放其实和播放本地视频的局别就是Extractor读取的Source,数据源不一样,在线播放需要下载数据到内存,再交由Extractor读取分析。但是既然是在线视频播放,我们肯定不能把整个容器文件下载到内存或者硬盘再开始解析播放。我们希望能控制下载的进度,比如我当前在看第10s的视频内容,所以我只想缓存/下载视频内容到第20s的位置。

我们俗称的渐进式下载(Progressive Downloading)就解决了这一难题。

说的好像是很吓人的黑科技啊!!!!

其实就是HTTP1.1协议支持的分段式下载而已。。。。。

在HTTP请求里面假如一个叫RANGE的header,放入起始字节和结束字节,就可以只下载对应部分的数据,这一header的支持也是各种下载软件实现断点下载的基础。每次断网的时候记录下来已经下载的数据的字节数,下次再下载的时候从字节数+1处重新下载并且写入原有文件就可以了。


分割线

所以这次分享就结束啦,下一期分享我会开始进入正题,在安卓平台里面,对视频播放的支持,像api啊等等,以及其变迁历史。

周末愉快!

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 194,242评论 5 459
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 81,769评论 2 371
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 141,484评论 0 319
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 52,133评论 1 263
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 61,007评论 4 355
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 46,080评论 1 272
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 36,496评论 3 381
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 35,190评论 0 253
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 39,464评论 1 290
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 34,549评论 2 309
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 36,330评论 1 326
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 32,205评论 3 312
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 37,567评论 3 298
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 28,889评论 0 17
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,160评论 1 250
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 41,475评论 2 341
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 40,650评论 2 335

推荐阅读更多精彩内容