ffmpeg播放器开发 详细记录+代码实现4

请接上一个简书内容观看,会对上一章的代码进行改进和修改~~~

ffmpeg播放器4-音视频同步

1.ffmpeg 音视频同步的开发

AudioChannel中:getPcm()方法中 获取到音频播放的相对时间

//获得 frame 的一个相对播放时间 (相对开始播放的时间)
    // 获取相对播放这一段数据的秒数
    clock = frame->pts * av_q2d(time_base);

VideoChannel.cpp中 play()中 callback之前 获取当前画面的播放时间,并与音频中的播放时间进行对比:

        // 获得 当前这一个画面 播放的相对时间
        double clock = frame->best_effort_timestamp * av_q2d(time_base);
        // 计算额外的延迟时间
        double extra_delay = frame->repeat_pict / (2*fps);
        // 真实需要的间隔时间
        frame_delays += extra_delay;
        if (!audioChannel || clock == 0) {
            // 休眠  微秒  -> #include <libavutil/time.h>  防止卡顿
            av_usleep(frame_delays * 1000 * 1000);
        } else {
            // 用来比较音视频
            double audioClock = audioChannel->clock;
            // 音视频相差的间隔
            double diff = clock - audioClock;
            if (diff > 0) {
                // 视频比较快 让视频休眠时间长一些
                av_usleep((frame_delays + diff) * 1000 * 1000);
            } else if (diff < 0) {
                // 音频比较快
                if(fabs(diff) >= 0.05){
                    // 丢包  packet
//                    packets.sync();

                    // 丢包  frame
                    frames.sync();
                    continue;
                }else{
                   // 不睡眠 赶上音频播放进度
                }
            } else {
                av_usleep(frame_delays * 1000 * 1000);
            }
        }

2.相关知识整理

简书链接:

音视频同步方式:

1、将视频根据音频同步(以音频为主)
2、以视频为主
3、以一个外部时间进度为主

帧率:单位时间内 需要显示多少个图像 25fp:1s内显示25个图像

//音频
 //获得 frame 的一个相对播放时间 (相对开始播放的时间)
    // 获取相对播放这一段数据的秒数
    clock = frame->pts * av_q2d(time_base);
//视频
  // 获得 当前这一个画面 播放的相对时间
        double clock = frame->best_effort_timestamp * av_q2d(time_base);

I frame :帧内编码帧 ,I 帧通常是每个 GOP(MPEG 所使用的一种视频压缩技术)的第一个帧,经过适度地压缩,做为随机访问的参考点,可以当成图象。I帧可以看成是一个图像经过压缩后的产物。

P frame: 前向预测编码帧,通过充分将低于图像序列中前面已编码帧的时间冗余信息来压缩传输数据量的编码图像,也叫预测帧;

B frame: 双向预测内插编码帧 ,既考虑与源图像序列前面已编码帧,也顾及源图像序列后面已编码帧之间的时间冗余信息来压缩传输数据量的编码图像,也叫双向预测帧;

I frame:自身可以通过视频解压算法解压成一张单独的完整的图片。

P frame:需要参考其前面的一个I frame 或者B frame来生成一张完整的图片。

B frame:则要参考其前一个I或者P帧及其后面的一个P帧来生成一张完整的图片。

PTS:Presentation Time Stamp。PTS主要用于度量解码后的音视频帧什么时候被显示出来

DTS:Decode Time Stamp。DTS主要是标识读入内存中的帧数据在什么时候开始送入解码器中进行解码。

在没有B帧存在的情况下DTS的顺序和PTS的顺序应该是一样的。

DTS主要用于视频的解码,在解码阶段使用。PTS主要用于视频的同步和输出.在显示的时候使用。

dts与pts.jpg

如上图:I frame 的解码不依赖于任何的其它的帧.而p frame的解码则依赖于其前面的I frame或者P frame.B frame的解码则依赖于其前的最近的一个I frame或者P frame 及其后的最近的一个P frame.

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 215,384评论 6 497
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,845评论 3 391
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 161,148评论 0 351
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,640评论 1 290
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,731评论 6 388
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,712评论 1 294
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,703评论 3 415
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,473评论 0 270
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,915评论 1 307
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,227评论 2 331
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,384评论 1 345
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,063评论 5 340
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,706评论 3 324
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,302评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,531评论 1 268
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 47,321评论 2 368
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,248评论 2 352

推荐阅读更多精彩内容

  • 教程一:视频截图(Tutorial 01: Making Screencaps) 首先我们需要了解视频文件的一些基...
    90后的思维阅读 4,690评论 0 3
  • FFmpeg 介绍 FFmpeg是一套可以用来记录、转换数字音频、视频,并能将其转化为流的开源计算机程序。采用LG...
    Y了个J阅读 11,272评论 0 28
  • ### YUV颜色空间 视频是由一帧一帧的数据连接而成,而一帧视频数据其实就是一张图片。 yuv是一种图片储存格式...
    天使君阅读 3,276评论 0 4
  • 最近项目中需要实现一个类似于硬币翻转的双面View,由于太懒了就在github上找了一个。CMSCoinView ...
    Raaaaamsey阅读 672评论 0 0
  • 年初六,人们习惯用六六大顺来讨口彩,其实顺不顺如人饮水、冷暖自知,心情好一切都好,情绪顺一切皆顺,就是真遇到一点不...
    爱莎AS阅读 304评论 2 1