苹果 ML Frameworks 简介

Outline

1.背景

2.ML Framework

3.Core ML

4.Vision Framework

5.开发流程

背景

Machine Learning 的常见应用场景

Text Prediction :文本预测,如输入法预测;

Entity Recognition:是指识别文本中具有特定意义的实体,主要包括人名、地名、机构名、专有名词等;

Sentiment  Analysis:情感分析,如对京东用户商品评论进行分析。

Style Transfer:图像风格转化,如转换成梵高风格,水彩、铅笔,油墨

Image Captioning:自动图像说明,通过识别图中的实体,生成描述图像的文本;

Music Tagging:音乐分类

Text Summarization:文本摘要,如通过算法自动生成今日头条文章的摘要

苹果在ML上的应用

其实,苹果已经在不少产品中使用了ML技术,如相册分类,输入法预测,watch上的手写识别,搜索推荐,siri语音识别。

如何来识别一朵玫瑰花?

ML的初衷是让机器学习人类的思维来解决问题。那么人是如何识别出一朵玫瑰花的呢?一个没见过玫瑰花的小朋友,自然傻傻分不清。当有人传授给他相关经验(花瓣的形状,颜色,气味等特征)后,他便拥有了比较准确的识别能力了。也许经历了几次错误识别之后,他最终真正掌握了识别玫瑰花的能力。

那么,机器也是一样。先传授给他经验,让他记住花有哪些特征。进而给出一些花让他识别,根据识别的结果总结经验,改进识别的思维,提升准确率。最终具备较高的识别玫瑰花的能力。

当具备了某种能力之后,就需要考虑如何应用到实践中,促进社会生产力的进步,提高效率,造福人类(此处存在?)。

假如让一台移动终端设备(iPhone)来跑ML的Model

ML Framework

框架层级

Accelerate 和 MPS是两个底层库,Accelerate 主要是高性能的进行图像、矩阵、向量、大数值运算。使用MPS可以直接跟GPU打交道,进行高性能图像处理。贴下官方描述:

Accelerate:Make large-scale mathematical computations and image calculations, optimized for high performance。

The Metal Performance Shaders (MPS) framework is now available on macOS, providing a highly tuned library of image processing and machine learning primitives to developers. In Metal 2, MPS expands its machine learning capabilities to enable new classes of algorithms, such as natural language processing, to execute on the GPU.

Core MLVision之后分别单独列出介绍,NLP是专门为自然语言处理相关的应用场景而设计。

苹果目前致力于让Model可以在单个终端设备(iPhone)上运行,有挑战,也有优势:

数据不会离开终端设备,不用担心用户隐私被泄露

不需要网络连接,无流量消耗,省钱又节能

对服务提供方来说,可以省去搭建后端服务器的花费

7*24小时随时可用,只要有电

Core ML

不同算法模型的运行:输入—>输出

常用的一些基础算法模型

对算法模型的运行(输入—>输出)进行抽象、规范化、通用化:Core ML Model

常用的 Core ML model:https://developer.apple.com/machine-learning

一般的Python算法模型转换为 Core ML modelhttps://pypi.python.org/pypi/coremltools

example:sklearn 中的LinearRegression,经过训练后的模型使用coremltools转换为MLMODEL

Vision Framework

Vision 提供的功能

普通人脸检测
小脸检测
侧脸检测
脸部部分遮挡检测
佩戴眼镜帽子时检测
面部轮廓点检测
文本检测

还有物体移动追踪,矩形区域检测等。

图片、视频检测:移动设备 VS 服务器(前面提到过,类似

个人隐私:更加私密、安全

资源消耗:免费,无数据传输

实时性:无延迟,立即运行

Vision 的抽象方案

简单的使用Demo

开发流程

Core ML model 就是代码

XCode 集成

接口调用

目前手上没有可运行ML Framework 的机器,本文只是理论层面的简介。运行速度、资源消耗,模型准确率对于ML的应用来说非常重要。期待一些成熟、amazing的ML app 的诞生。

参考:Introducing Core ML   Vision Framework: Building on Core ML  Core ML in depth

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 213,417评论 6 492
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 90,921评论 3 387
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 158,850评论 0 349
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,945评论 1 285
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,069评论 6 385
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,188评论 1 291
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,239评论 3 412
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,994评论 0 268
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,409评论 1 304
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,735评论 2 327
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,898评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,578评论 4 336
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,205评论 3 317
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,916评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,156评论 1 267
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,722评论 2 363
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,781评论 2 351

推荐阅读更多精彩内容