从最新版的
FFMPEG
源码来看,是有相关的videotoolbox
函数在里边,但是不能确定是否只支持Mac而不支持iOS
.
实践
编译FFMPEG
源码测试
FFMPEG
官网添加videotoolbox
path
直接编译FFMPEG
源码,播放h264文件。根据来源于雷霄骅
Demo改编的TSFFMPEG
,使用
AVHWAccel *pp = ff_find_hwaccel(pCodecCtx->codec->id, pCodecCtx->pix_fmt);
返回nil
,也就是找不到支持硬解码
的解码库,不知道是默认编译库屏蔽了还是代码问题。
在官网
Mac/iOS是支持videotoolbox,这是肯定的源码里都有。
iOS支持编码不支持解码?从这里别人失败记录可以看出,iOS是支持硬解码的。但需要直接证据
修改FFMPEG 3.2
的configure
,默认是关闭videotoolbox
重新编译
使用以下代码可以测出,只真的支持了。
AVHWAccel *ff_find_hwaccel(enum AVCodecID codec_id, enum AVPixelFormat pix_fmt)
{
AVHWAccel *hwaccel=NULL;
while((hwaccel= av_hwaccel_next(hwaccel))){
NSLog(@"name:%s type:%d id:%u pix:%d",hwaccel->name,hwaccel->type,hwaccel->id,hwaccel->pix_fmt);
if ( hwaccel->id == codec_id
&& hwaccel->pix_fmt == pix_fmt)
return hwaccel;
}
return NULL;
}
日志结果:
2017-01-23 15:14:38.047166 TSKXMoiveDemo[11779:1686079] name:h264_videotoolbox type:0 id:28 pix:334
2017-01-23 15:14:38.047433 TSKXMoiveDemo[11779:1686079] name:mpeg1_videotoolbox type:0 id:1 pix:334
2017-01-23 15:14:38.047558 TSKXMoiveDemo[11779:1686079] name:mpeg2_videotoolbox type:0 id:2 pix:334
2017-01-23 15:14:38.047681 TSKXMoiveDemo[11779:1686079] name:mpeg4_videotoolbox type:0 id:13 pix:334
(lldb)
其中的334是AV_PIX_FMT_VIDEOTOOLBOX
,由此看出是支持iOS
硬解码的。下来的问题是:怎么用?
关键在于AV_PIX_FMT_VIDEOTOOLBOX
这个格式怎么来的,需要研究,最终找到h264_slice.c
里边,关键是这个函数
static enum AVPixelFormat get_pixel_format(H264Context *h, int force_callback)
{
#define HWACCEL_MAX (CONFIG_H264_DXVA2_HWACCEL + \
CONFIG_H264_D3D11VA_HWACCEL + \
CONFIG_H264_VAAPI_HWACCEL + \
(CONFIG_H264_VDA_HWACCEL * 2) + \
CONFIG_H264_VIDEOTOOLBOX_HWACCEL + \
CONFIG_H264_VDPAU_HWACCEL)
enum AVPixelFormat pix_fmts[HWACCEL_MAX + 2], *fmt = pix_fmts;
const enum AVPixelFormat *choices = pix_fmts;
int i;
switch (h->ps.sps->bit_depth_luma) {
case 9:
if (CHROMA444(h)) {
if (h->avctx->colorspace == AVCOL_SPC_RGB) {
*fmt++ = AV_PIX_FMT_GBRP9;
} else
*fmt++ = AV_PIX_FMT_YUV444P9;
} else if (CHROMA422(h))
*fmt++ = AV_PIX_FMT_YUV422P9;
else
*fmt++ = AV_PIX_FMT_YUV420P9;
break;
case 10:
if (CHROMA444(h)) {
if (h->avctx->colorspace == AVCOL_SPC_RGB) {
*fmt++ = AV_PIX_FMT_GBRP10;
} else
*fmt++ = AV_PIX_FMT_YUV444P10;
} else if (CHROMA422(h))
*fmt++ = AV_PIX_FMT_YUV422P10;
else
*fmt++ = AV_PIX_FMT_YUV420P10;
break;
case 12:
if (CHROMA444(h)) {
if (h->avctx->colorspace == AVCOL_SPC_RGB) {
*fmt++ = AV_PIX_FMT_GBRP12;
} else
*fmt++ = AV_PIX_FMT_YUV444P12;
} else if (CHROMA422(h))
*fmt++ = AV_PIX_FMT_YUV422P12;
else
*fmt++ = AV_PIX_FMT_YUV420P12;
break;
case 14:
if (CHROMA444(h)) {
if (h->avctx->colorspace == AVCOL_SPC_RGB) {
*fmt++ = AV_PIX_FMT_GBRP14;
} else
*fmt++ = AV_PIX_FMT_YUV444P14;
} else if (CHROMA422(h))
*fmt++ = AV_PIX_FMT_YUV422P14;
else
*fmt++ = AV_PIX_FMT_YUV420P14;
break;
case 8:
#if CONFIG_H264_VDPAU_HWACCEL
*fmt++ = AV_PIX_FMT_VDPAU;
#endif
if (CHROMA444(h)) {
if (h->avctx->colorspace == AVCOL_SPC_RGB)
*fmt++ = AV_PIX_FMT_GBRP;
else if (h->avctx->color_range == AVCOL_RANGE_JPEG)
*fmt++ = AV_PIX_FMT_YUVJ444P;
else
*fmt++ = AV_PIX_FMT_YUV444P;
} else if (CHROMA422(h)) {
if (h->avctx->color_range == AVCOL_RANGE_JPEG)
*fmt++ = AV_PIX_FMT_YUVJ422P;
else
*fmt++ = AV_PIX_FMT_YUV422P;
} else {
#if CONFIG_H264_DXVA2_HWACCEL
*fmt++ = AV_PIX_FMT_DXVA2_VLD;
#endif
#if CONFIG_H264_D3D11VA_HWACCEL
*fmt++ = AV_PIX_FMT_D3D11VA_VLD;
#endif
#if CONFIG_H264_VAAPI_HWACCEL
*fmt++ = AV_PIX_FMT_VAAPI;
#endif
#if CONFIG_H264_VDA_HWACCEL
*fmt++ = AV_PIX_FMT_VDA_VLD;
*fmt++ = AV_PIX_FMT_VDA;
#endif
#if CONFIG_H264_VIDEOTOOLBOX_HWACCEL
*fmt++ = AV_PIX_FMT_VIDEOTOOLBOX;
#endif
if (h->avctx->codec->pix_fmts)
choices = h->avctx->codec->pix_fmts;
else if (h->avctx->color_range == AVCOL_RANGE_JPEG)
*fmt++ = AV_PIX_FMT_YUVJ420P;
else
*fmt++ = AV_PIX_FMT_YUV420P;
}
break;
default:
av_log(h->avctx, AV_LOG_ERROR,
"Unsupported bit depth %d\n", h->ps.sps->bit_depth_luma);
return AVERROR_INVALIDDATA;
}
*fmt = AV_PIX_FMT_NONE;
for (i=0; choices[i] != AV_PIX_FMT_NONE; i++)
if (choices[i] == h->avctx->pix_fmt && !force_callback)
return choices[i];
return ff_thread_get_format(h->avctx, choices);
}
TSFFMPEG
Demo里的,
(lldb) po pCodecCtx->pix_fmt
AV_PIX_FMT_YUV420P
打个日志,看这个AV_PIX_FMT_YUV420P
从哪个case
获取的
经过几天查询资料,放弃研究使用
ffmpeg
iOS硬解码,代码可以参考。具体的iOS硬解码
准备参考ijkplayer
以及vlc
的。
研究ijkplayer
按照这里下载,安装上
ijkplayer
ijkplayer
是基于FFMPEG
的,从源码跟文档上来看,是支持iOS硬解码的,具体只要设置
[options setPlayerOptionIntValue:1 forKey:@"videotoolbox"];
当这个参数为0跟为1时候,函数调用不用,为1时候,调用ijkplayer
自己的VDA,不知道怎么样才能调用FFMPEG
的VDA。
测试默认打不开RTSP链接
研究kxmovie
代码于14年末已经不维护了,之后
FFMPEG
才支持硬解码
的,不过这个工程师使用FFMPEG
最简单的,可以用来学习,研究。
- 官网的工程编译方法已经不行了,需要自己生成.a.
研究VLC
学习VLC
的iOS客户端源码,VLC
官网关于硬解码介绍里,并没有明确说明是否支持iOS
硬解码(VDA),只说了支持Mac
。
根据这里,VLC
的iOS
leader回答,7.2之后,默认开启状态。
VideoToolbox is enabled by default on the master branch and requires both modules you mentioned. It is not enabled on the 2.7-iOS branch and won't be.
You can check whether HW acceleration is enabled or not through VLCKit's debug log, which you can enable on the respective VLCLibrary instance.
剩下就是研究VLC
的硬解码
是否使用的是FFMPEG
的硬解码
.
VideoKit
VideoKit
封装的FFMPEG
拿来卖的,但可以以用来借鉴
运行看到如下日志,说明播放despicable.mp4
可以用来测试,是否使用的硬编码。
Using hardware acceleration (VIDEOTOOLBOX)
并且cpu利用率内存使用很低20%以内,用kxmoive
同一个视频,cpu内存均很高。