微帧ROI视频智能编码:基于人眼感兴趣区域,实现极致观感体验

"The world is too much with us".

为了更好地认识这个纷繁复杂的世界,人类进化出了一套独特的视觉系统——中央凹成像系统,即当我们看东西时,眼睛聚焦的地方会看得更加清晰,而对于周围区域只能看个大概,这种成像方式既能让我们看清关键物体的细节,又能具有较大的视野。

例如,人在开车时,既能看清前方的路,又能兼顾两侧,这就是中央凹成像系统的功劳。前方的道路和车辆就是人眼主观关注与感兴趣的区域,而对于周边的蓝天、草地等非关注区域,人眼并不会产生过多关注。

正是中央凹成像系统让人类拥有了特殊的视觉注意力机制,在处理复杂视觉信息时,能够迅速将注意力和神经计算资源集中到场景的重要区域上。

由于这样的人眼视觉特殊性,人们在观看视频及图像时,往往会希望主观关注及感兴趣区域能够拥有较高的清晰度,而对于非关注区域,只需要达到基本视觉要求即可。

ROI视频编码技术

ROI:Regions of Interest,感兴趣区域

基于主观质量衡量标准,在视频编码过程中,我们可以对感兴趣区域进行低压缩比,甚至是无损压缩编码,以获得高质量的重建图像,而对非关注区域采用较高压缩率,这就是ROI视频编码技术

微帧ROI (region of interest) encoding是一项基于感兴趣区域的视频编码技术,即对图像中感兴趣的区域降低量化参数值,从而分配更多码率以提升画面质量,而对不感兴趣的区域则提高量化参数值,从而分配更少码率,在不损失图像整体质量的前提下,降低视频码率。

右图:经微帧ROI智能编码处理后,码率不变,画质大幅提升

ROI视频编码码率分配的基本思路是:在视频编码前,对输入的视频场景进行视觉感知分析以确定感兴趣区域。在编码过程中,通过调整编码参数,为感兴趣区域分配更多码率,使其拥有更好的视觉质量,而其他区域则相应减少分配的码率,因其误差敏感度较低而对整体视频质量影响较小。

在同样的码率限制下,这种码率分配方案的编码结果将会比传统的分配码率的结果有更好的主观视觉质量。

几类不同的感兴趣区域检测

1)中心区域

屏幕中间或固定其他地方的ROI区域,此类型ROI是基于经验的判断,在正常视频的拍摄手法上通常会将最重要的内容放在画面最中间。

2)人脸

人脸是人最明显的特点之一,在视频中明显位置出现的人脸会很容易被观众注意,因此人脸是最显著的主观敏感区域。

对此ROI区域的编码需要先准确定位人脸,再做针对性地画质调优以及编码参数调优。微帧智能转码系统支持标准版和超低复杂度版本人脸检测,其中标准版处理1080p视频平均在3ms每帧以内;超低复杂度版本在1ms每帧以内。适配秀场、综艺、安防、影视等包含人脸的场景。如下图所示,标准版人脸检测即使在多人脸、遮挡、侧脸、小脸等条件下也能获得较好的检测结果。

3)人眼聚焦区域(主观感兴趣区域)

人眼聚焦区域数据集一般是通过眼动仪获取。微帧智能转码系统支持标准版和超低复杂度版人眼聚焦区域检测。

3.1 标准版聚焦区域检测

标准版聚焦区域检测,采用眼动仪得到训练样本,有效定位人眼聚集区域,适配绝大部分场景。

3.2 超低复杂度版聚焦区域检测

超低复杂度版聚焦区域检测,1080P视频CPU单核运算时间在1ms每帧以内,复杂度基本忽略不计。

4)各个块本身的主观敏感度

x264默认的自适应量化(AQ),仅依据方差大小作为评判依据,对于方差大的块施以更大的量化因子。方差大小的鲁棒性不足,甚至都不能很好地判断平滑程度。如图示例的一维信号,左图的方差比右图更大,事实上左图是比较平滑的。

图片来源:Fan Zhang, etc. Limitation and Challenges of Image Quality Measurement. SPIE 2010

以RaceHorses为例,按照x264中的AQ技术,第一行宏块,正好绿色草丛背景块的方差比较小,而涵盖了帽子、人脸、人眼的宏块方差比较大,导致主观敏感的人脸/人眼被施加了较大的delta QP。微帧智能转码系统区分了易被人眼关注的规则纹理,加以保护,在其他编码条件相同的条件下,取得明显改善。

5G时代的到来,人们对于视频质量的要求愈发高涨,视频码率也呈现出成倍增长的趋势,这给视频运营平台短期内的CDN成本、用户观看体验等方面带来了巨大挑战。

面对这样的挑战,人们不得不继续优化视频编码标准,以提高编码效率。除了不断推出新视频标准之外,ROI编码等AI技术也变得尤为重要。微帧多次主观测评显示,ROI编码与传统编码相比,主观整体视觉效果都有显著提升,在较低带宽的环境下尤为明显。ROI编码技术既能够获得期望的高质量画面,又保持了较低的码率,更好地解决了码率与画质之间的矛盾。

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 217,826评论 6 506
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 92,968评论 3 395
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 164,234评论 0 354
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,562评论 1 293
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,611评论 6 392
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,482评论 1 302
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,271评论 3 418
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,166评论 0 276
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,608评论 1 314
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,814评论 3 336
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,926评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,644评论 5 346
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,249评论 3 329
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,866评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,991评论 1 269
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 48,063评论 3 370
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,871评论 2 354

推荐阅读更多精彩内容