OpenCV在移动端的优化

先说一下OpenCV在Android移动端的历史。OpenCV官方正式开始支持Android平台的是在OpenCV 2.4版本,2012年。OpenCV4Android是OpenCV库支持Android接口的官方命名。共提供两种接入方式:使用OpenCV Java API以及使用Android NDK。
使用Java API的好处是接入简单,缺点是只支持OpenCV的部分库函数以及由于是封装了C++而带来的一小部分性能损失。具体可以看一下下面两张图:假如视频的每一帧都需要调用三个OpenCV的函数,使用Java API的话就需要有三对JNI的输入输出,也就是应用每一帧会导致6次JNI的调用;而使用native C++的方式时,OpenCV的部分完全由C++写,在调用OpenCV的函数时完全绕开了JNI的调用,就会将每一帧JNI的调用次数从6次减到了2次,对性能表现会有优化。当然,如果只是调用一次OpenCV函数的过程的话,性能优化方面其实是不明显的。

bdti figure 2 500.jpg

使用Java API

bdti figure 3 500.jpg

使用Native C++
OpenCV针对NVDIA的的Tegra3及以上平台系列做了针对Android操作系统的优化(TADP, Tegra Android Development Pack),在Tegra上使用OpenCV通常能达到几倍快于一般平台上基于Android的实现。也是从Tegra3开始,OpenCV开始支持 ARM的SIMD扩展,NEON。这里在Google Play上有专门一个针对Tegra平台性能的Demo—OpenCV for Tegra Demo。以上可以为今后针对Tegra的芯片优化做参考。
NEON专为矢量操作设计,适合用于图片处理,对许多视觉算法可以显著提升速度。下面举个栗子:将RGB转为灰图,一般的颜色转换这么写,每次处理一个像素:

{
    for(int i=0; i<num_pixels; ++i, rgb+=3)
    {
        int v = (77*rgb[0] + 150*rgb[1] +29*rgb[2]);
        gray[i] v>>8;
    }
}```
使用NEON intrinsics
```void rgb_to_gray_neon(const uint8_t* rgb, uint8_t* gray, int num_pixels)
{
    // We'll use 64-bit NEON registers to process 8 pixels in parallel.
    num_pixels /= 8;
    // Duplicate the weight 8 times.
    uint8x8_t w_r = vdup_n_u8(77);
    uint8x8_t w_g = vdup_n_u8(150);
    uint8x8_t w_b = vdup_n_u8(29);
    // For intermediate results. 16-bit/pixel to avoid overflow.
    uint16x8_t temp;
    // For the converted grayscale values.
    uint8x8_t result;
    for(int i=0; i<num_pixels; ++i, rgb+=8*3, gray+=8)
    {
            // Load 8 pixels into 3 64-bit registers, split by channel.
            uint8x8x3_t src = vld3_u8(rgb);
            // Multiply all eight red pixels by the corresponding weights.
            temp = vmull_u8(src.val[0], w_r);
            // Combined multiply and addition.
            temp = vmlal_u8(temp, src.val[1], w_g);
            temp = vmlal_u8(temp, src.val[2], w_b);
            // Shift right by 8, "narrow" to 8-bits (recall temp is 16-bit).
            result = vshrn_n_u16(temp, 8);
            // Store converted pixels in the output grayscale image.
            vst1_u8(gray, result);
    }
 }```
优化的结果(iPhone 5S)如下图所示:
![optimization results.png](http://upload-images.jianshu.io/upload_images/1712633-9cbce1473bd1d0f2.png?imageMogr2/auto-orient/strip%7CimageView2/2/w/1240)
使用NEON,可以看到从之前的一个一个像素串行处理转为8个像素并行处理,一秒中提升的速度在6倍左右。没有达到8倍理论值,猜想可能损失在寄存器数据的存取上。
根据OpenCV官网论坛的说法,只有一小部分的代码使用了ARM NEON加速,分别是:
    •   cvCanny - modules\imgproc\src\canny.cpp
    •   cvDilate - modules\imgproc\src\morph.cpp
    •   cvResize - modules\imgproc\src\imgwarp.cpp
    •   cvtColor - modules\imgproc\src\color.cpp

针对加速的平台可用的有:
    •   Intel Performance Primitives (IPP)
    •   NVIDIA CUDA
    •   NVIDIA Tegra
    •   x86 SIMD (SSE2 and up)

总结
在Android平台上使用NEON优化的局限性较高,针对的是NVIDIA Tegra 3及以上平台,具体对Tegra 3做了哪些优化以及如何详细使用可参考这里。在做Android端的平台适配时,需要对NEON是否支持作判断。

Reference:
http://www.embedded-vision.com/platinum-members/bdti/embedded-vision-training/documents/pages/developing-opencv-computer-vision-app
https://en.wikipedia.org/wiki/Tegra
http://web.stanford.edu/class/cs231m/lectures/lecture-4-opencv.pdf
http://answers.opencv.org/question/33940/are-these-functions-accelerated-by-arm-neon/
http://queue.acm.org/detail.cfm?id=2206309
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 203,362评论 5 477
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,330评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,247评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,560评论 1 273
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,580评论 5 365
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,569评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,929评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,587评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,840评论 1 297
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,596评论 2 321
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,678评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,366评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,945评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,929评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,165评论 1 259
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 43,271评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,403评论 2 342

推荐阅读更多精彩内容