简介
随着短视频的发展,短视频的需求越来越复杂,比如添加滤镜、特效、字幕、贴纸等越来越多的功能都将添加到短视频编辑的功能里面。传统的基于FFmpeg命令行进行编辑合成的方案,以ARM处理的性能来说,命令行的速度实在是太慢了,哪怕是开了NEON加速,执行效率也还是满足不了需求,而且也做不到实时预览的效果。为了能够实时预览我们想要的效果,我们一般都需要自研播放器。
目前关于自研播放器的资料/项目比较杂乱。有些资料/项目虽然讲解了音视频,但也只是单纯地将数据解码然后进行播放,并没有做音视频同步以及丢帧处理等操作,并不能算一个真正的播放器,只是把媒体播放出来而已。有些资料/项目虽然做了音视频同步等处理,但在定位(seek)等处理上毛病比较多,比如快速定位出现杂音、渲染的视频画面出现雪花、块状等问题。这些资料/项目用作新手学习播放器开发的参考资料还可以,但离真正商用还有一段距离,新手要自研一个达到商用性能的播放器还要花费不少时间踩坑。本人在学习播放器开发的时候,也踩了不少坑,浪费了不少时间。因此,本人写的CainPlayer 项目以及本系列的文章,就是为了给后来者减少踩坑的可能,能够用最少的时间写出一个达到商用性能的播放器。
在学习播放器开发之前,我们一般会看一遍ffplay.c的源码,个人强烈建议大家通读一遍ffplay的代码,代码也就4000多行,并不是非常多,核心代码也就不到1000行吧。ffplay的代码涉及解复用、解码、音视频同步、音视频输出等播放器的基本功能,该有的都有了,其中音视频同步部分最具参考价值。基于ffplay开发的比较出名的开源播放器是ijkplayer,基本上流媒体(直播、点播)APP中的播放器都用ijkplayer。不过ijkplayer不太适合短视频编辑处理,比如做视频逆序播放、添加滤镜、特效、字幕、贴纸等功能时,需要做不少改动。各大短视频APP,像抖音、快手、微视等虽然首页播放采用ijkplayer,但在短视频编辑页面基本都是自研播放器。本人写的播放器项目也是基于ffplay的大致思路实现的。
接下来将会讲解Android 环境下基于FFmpeg播放器开发的流程。在实现基于FFmpeg播放器时,需要涉及几个部分:
初始化、解复用、音频解码、视频解码、音视频同步、音频播放、视频播放、变速变调等功能
为了系统地学习播放器开发,我这里大致梳理了一遍播放器开发流程,以及写了一个相对完整一点的播放器。
接下来会用一下几个篇章介绍:
第零章 基础公共类的封装
第一章 播放器初始化与解复用流程
第二章 音视解码器和视频解码器实现
第三章 音频输出 —— OpenSLES
第四章 音频重采样与变速变调处理
第五章 视频同步渲染输出