音视频采集

1、iOS直播技术的流程

   直播技术的流程大致可以分为几个步骤:数据采集、图像处理(实时滤镜)、视频编码、封包、上传、云端(转码、录制、分发)、直播播放器。  

数据采集:通过摄像头和麦克风获得实时的音视频数据;
图像处理:将数据采集的输入流进行实时滤镜,得到我们美化之后的视频帧;
视频编码:编码分为软编码和硬编码。现在一般的编码方式都是H.264,比较新的H.265据说压缩率比较高,但算法也相当要复杂一些,使用还不够广泛。软编码是利用CPU进行编码,硬编码就是使用GPU进行编码,软编码支持现在所有的系统版本,由于苹果在iOS8才开放硬编码的API,故硬编码只支持iOS8以上的系统;
封包:现在直播推流中,一般采用的格式是FLV;
上传:常用的协议是利用RTMP协议进行推流;
云端:进行流的转码、分发和录制;
直播播放器:负责拉流、解码、播放。

用一张腾讯云的图来说明上面的流程:

2014909-fc4efbc9b1ffdd45.png

2、获取系统的授权
直播的第一步就是采集数据,包含视频和音频数据,由于iOS权限的要求,需要先获取访问摄像头和麦克风的权限:

请求获取访问摄像头权限

__weak typeof(self) _self = self; 
    AVAuthorizationStatus status = [AVCaptureDevice authorizationStatusForMediaType:AVMediaTypeVideo]; 
switch (status) { 
       case AVAuthorizationStatusNotDetermined:{ 
          // 许可对话没有出现,发起授权许可
            [AVCaptureDevice requestAccessForMediaType:AVMediaTypeVideo completionHandler:^(BOOL granted) { 
               if (granted) { 
                   dispatch_async(dispatch_get_main_queue(), ^{ 
                          [_self.session setRunning:YES];
                    }); 
                } 
              }]; 
              break; 
        } 
       case AVAuthorizationStatusAuthorized:{ 
         // 已经开启授权,可继续
            [_self.session setRunning:YES]; 
             break; 
       } 
      case AVAuthorizationStatusDenied: 
      case AVAuthorizationStatusRestricted: 
      // 用户明确地拒绝授权,或者相机设备无法访问 
            break; 
       default: 
             break; 
  }

请求获取访问麦克风权限

AVAuthorizationStatus status = [AVCaptureDevice authorizationStatusForMediaType:AVMediaTypeAudio];
    switch (status) {
        case AVAuthorizationStatusNotDetermined:{
            [AVCaptureDevice requestAccessForMediaType:AVMediaTypeAudio completionHandler:^(BOOL granted) {
            }];
            break;
        }
        case AVAuthorizationStatusAuthorized:{
            break;
        }
        case AVAuthorizationStatusDenied:
        case AVAuthorizationStatusRestricted:
            break;
        default:
            break;
    }

3、配置采样参数

音频:需要配置码率、采样率;
视频:需要配置视频分辨率、视频的帧率、视频的码率。
4、音视频的录制
音频的录制

self.taskQueue = dispatch_queue_create("audioCapture.Queue",NULL);
      AVAudioSession  *session = [AVAudioSession sharedInstance];
      [session setActive:YES withOptions:kAudioSessionSetActiveFlag_NotifyOthersOnDeactivation error:nil];
      [[NSNotificationCenter defaultCenter] addObserver:self 
                                               selector: @selector(handleRouteChange:)
                                                   name: AVAudioSessionRouteChangeNotification
                                                 object:session];
[[NSNotificationCenter defaultCenter] addObserver:self 
                                               selector: @selector(handleInterruption:)
                                                   name: AVAudioSessionInterruptionNotification
                                                 object:session];
       NSError *error = nil;
      [session setCategory:AVAudioSessionCategoryPlayAndRecord withOptions:AVAudioSessionCategoryOptionDefaultToSpeaker | AVAudioSessionCategoryOptionMixWithOthers error:nil];
      [session setMode:AVAudioSessionModeVideoRecording error:&error];
      if(![session setActive:YES error:&error]){
          [self handleAudioComponentCreationFailure];
      }
      AudioComponentDescription acd;
       acd.componentType = kAudioUnitType_Output;
       acd.componentSubType = kAudioUnitSubType_RemoteIO;
       acd.componentManufacturer = kAudioUnitManufacturer_Apple;
       acd.componentFlags = 0;
       acd.componentFlagsMask = 0;
       self.component = AudioComponentFindNext(NULL, &acd);
       OSStatus status = noErr;
       status = AudioComponentInstanceNew(self.component, &_componetInstance);
       if (noErr != status) {
           [self handleAudioComponentCreationFailure];
       }
       UInt32 flagOne = 1;
       AudioUnitSetProperty(self.componetInstance, kAudioOutputUnitProperty_EnableIO, kAudioUnitScope_Input, 1, &flagOne, sizeof(flagOne));
       AudioStreamBasicDescription desc = {0};
       desc.mSampleRate = _configuration.audioSampleRate;
       desc.mFormatID = kAudioFormatLinearPCM;
       desc.mFormatFlags = kAudioFormatFlagIsSignedInteger | kAudioFormatFlagsNativeEndian | kAudioFormatFlagIsPacked;
       desc.mChannelsPerFrame = (UInt32)_configuration.numberOfChannels;
       desc.mFramesPerPacket = 1;
       desc.mBitsPerChannel = 16;
       desc.mBytesPerFrame = desc.mBitsPerChannel / 8 * desc.mChannelsPerFrame;
       desc.mBytesPerPacket = desc.mBytesPerFrame * desc.mFramesPerPacket;
       AURenderCallbackStruct cb; 
       cb.inputProcRefCon = (__bridge void *)(self); 
       cb.inputProc = handleInputBuffer; 
       status = AudioUnitSetProperty(self.componetInstance, kAudioUnitProperty_StreamFormat, kAudioUnitScope_Output, 1, &desc, sizeof(desc)); 
       status = AudioUnitSetProperty(self.componetInstance, kAudioOutputUnitProperty_SetInputCallback, kAudioUnitScope_Global, 1, &cb, sizeof(cb)); 
       status = AudioUnitInitialize(self.componetInstance); 
       if (noErr != status) { 
            [self handleAudioComponentCreationFailure]; 
        } 
       [session setPreferredSampleRate:_configuration.audioSampleRate error:nil]; 
       [session setActive:YES error:nil];





视频的录制:调用GPUImage中的GPUImageVideoCamera

_videoCamera = [[GPUImageVideoCamera alloc] initWithSessionPreset:_configuration.avSessionPreset cameraPosition:AVCaptureDevicePositionFront];
_videoCamera.outputImageOrientation = _configuration.orientation; 
_videoCamera.horizontallyMirrorFrontFacingCamera = NO; 
_videoCamera.horizontallyMirrorRearFacingCamera = NO; 
_videoCamera.frameRate = (int32_t)_configuration.videoFrameRate; 
_gpuImageView = [[GPUImageView alloc] initWithFrame:[UIScreen mainScreen].bounds]; 
[_gpuImageView setFillMode:kGPUImageFillModePreserveAspectRatioAndFill]; [_gpuImageView setAutoresizingMask:UIViewAutoresizingFlexibleWidth | UIViewAutoresizingFlexibleHeight]; [_gpuImageView setInputRotation:kGPUImageFlipHorizonal atIndex:0];


转载自:https://chenhu1001.github.io

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 194,319评论 5 459
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 81,801评论 2 371
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 141,567评论 0 319
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 52,156评论 1 263
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 61,019评论 4 355
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 46,090评论 1 272
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 36,500评论 3 381
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 35,192评论 0 253
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 39,474评论 1 290
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 34,566评论 2 309
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 36,338评论 1 326
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 32,212评论 3 312
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 37,572评论 3 298
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 28,890评论 0 17
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,169评论 1 250
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 41,478评论 2 341
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 40,661评论 2 335

推荐阅读更多精彩内容

  • 学习过音视频的都知道,不常用的话就会容易忘记。因此,记下以前学些的点滴。(这不是入门贴) 主要分为以下主题做学习记...
    vedon_fu阅读 7,135评论 9 18
  • 项目暂时告一段落,也是一知半解,不过我的分享可以帮助我这样菜鸟了。先来下知识结构: 1、h264 视频编码处理的最...
    JiangSy阅读 4,326评论 4 12
  • iOS视频直播---主要的概念(一) 第一部分: 视频采集----AVCaptureSession 1.1 视频采...
    simuty阅读 3,079评论 3 16
  • 学校是孩子一天当中最重要的活动场所,我们做家长的都认为学校是最安全的地方。可是谁成想最安全的地方也是最危险的...
    fuwl阅读 283评论 0 0
  • 今天是第二天,上午团建,虽然第三名,但大家都尽力了!老师说成绩不是最重要的,重在参与。在一上午的活动中,大...
    伽有儿女阅读 191评论 0 1