最近在进行一些关于webrtc性能的测试,主要是对视频模块的测试,看视频渲染是都平滑,视频分辨率是否清晰可见,经过这样的测试,对webrtc的理解会更加深刻:
首先我们要提出视频的特点,通过什么样的测试来验证视频sdk是优秀的呢?
1.视频的帧率: 视频的帧率决定了视频是否流畅
2.视频的分辨率:视频的分辨率决定了视频是否清晰
3.视频的延时:视频的延时决定了A和B通信的实时性
现在我们对测试模块的指标进行了分析,那么我们现在来分析一下,什么因素将导致这几个属性的变化,那么webrtc是如何对这些属性变化进行调控的:
首先我们来解析帧率模块:对于不同平台的采集帧率不一定相同,对于现在市面上主流的手机或者PC端,采集帧率大致在20-30帧/s,这样子在编码器和网络状态完全理想的状态下,远端渲染若是以此帧率进行渲染,那样绝对是完美的渲染效果,但是网络会进行抖动和丢包,假如30帧丢了20帧的话,那样对体验绝对是糟糕的,那么对于人眼能够接受最低帧率大概15帧/S左右,这就有了webrtc中的两个策略,基于帧率的丢帧处理和基于码率的丢帧处理;为何丢帧,我们要引入码率这个属性,码率是指每秒产出的bps数,这个是作用于编码器的,对于同分辨率,帧率越大,码率也就越高,需要的网络带宽也就越大(带宽小于此码率,会造成延时和丢包),同帧率,视频质量越高,码率也会越大,这里又有了webrtc中的一个质量调控策略,这些都是对QOS流控码率估算的一个处理策略。下面我们来一一解释这三个策略,由于是内网代码,我这里也只是会贴出一些关键性的代码:
(1).基于目标帧率的丢帧处理:
这个非常好理解,即视频的一个前处理,采集帧率输入,目标帧率输出到编码器,实现一个均匀丢帧处理(关键字不丢弃),实现一个帧率的前处理;
(2).基于目标码率的丢帧处理:
何为基于目标码率的丢帧处理,即在Qos模块基于延时和丢包率计算的目标码率之下,结合当前的分辨率,这样可以估算出一个帧率的丢帧比例,对其采集的帧率进行一个丢帧处理,这样可在分辨率不变的情况下,合理的对qos进行反馈处理,阻止网络进一步发生拥塞,不过这个丢帧处理也会结合分辨率,在两者之间进行调控,在估算的码率之下,产出最合适的方案,分辨率是结合编码的qp指数进行分辨率的调控:现在我们来看一下webrtc中如何实现的
video_sender.cc VideoSneder::AddVideoFrame() --> if(_mediaOpt.DropFrame){ 如果为true,即丢帧,false送入编码模块}
media_optimization.cc MediaOptimization::DropFrame()
{
1. UpdateIncomingFrameRate() //更新采集帧率
2.fram_dropper->Leak() [1. cal accumulator 2.updateRatio() 3.ExpFilter::Apply() 通过指数权重铝箔,计算丢包率]
3.fram_dropper->DropFrame() 依据计算的出丢包率,进行均匀丢包
}
(3).基于码率调控分辨率
这里我先科普一下基础知识,对于编码器,有个QP值,是对于编码质量的一个属性值,他由帧率,分辨率和码率决定,在webrtc中,对于VP8,VP9和H264分别设置了不同的QP值,webrtc开启了一个线程,专门去统计qp值和drop_rate,我们可以看 quality_scaler.cc中的QualityScaler::CheckQp()这个函数,他通过平均丢包率和平均qp值来监测是否应该调高和调低分辨率,如果平均丢包率 >=0.6,降低分辨率,如果qp值大于对应编码的qp值,调低分辨率,如果平均qp值小于对应编码的qp值,则调高分辨率,这就是webrtc中的质量调控策略;
以上是我在测试中webrtc基于qos对于计算出的目标码率的一种调控策略,既可以保证帧率的稳定性,又可以动态调控视频的清晰度,当然这是对于发送端的qos反馈机制,对于接收端,jitterbuffer另外的博客在分享给大家,这就是我测试之后对webrtc的理解,这里可以调控QP值和对于的最大最小码率进行调试,看什么样的值效果最佳;