如何理解并实现一个简单的人脸识别算法(上):数学基础

人工智能需要多方面的知识和能力。

从机器学习的角度来讲,我们需要了解监督学习,半监督学习,无监督学习以及增强学习等学习方法。

从计算机视觉的角度来讲,根据加州大学伯克利分校的著名学者Jitendra Malik的观点,我们需要解决计算机视觉的三个基本问题("3R"):重建(Reconstruction),识别(Recognition),以及再组织(Reorganization)。

作为"3R"中的重要一环,识别(Recognition)是一个非常重要而且相对容易上手的视觉问题。作为识别中最重要的基本问题,人脸识别(Face Recognition)一直以来都占据了大多数研究者的精力。

在这一系列教程里,我会详细介绍一个人脸识别算法,基于这个算法,搭建人脸识别系统就基本完成了一大半,剩下的都是软件方面的事情了。

为了使得教程尽可能简单,我选用了人脸识别 领域里一个非常出名并且简单的方法,并且尽量不介绍与本方法无关的知识,节省小孩的学习成本。当然,我并不是说与本方法无关的知识就是无用的。我只是希望大家经过尽可能少的学习就可以基本搭建起一个人脸识别算法。

这一个教程分3部分:

1. 第一部分是数学基础部分,我介绍函数的概念,函数如何求导,函数如何得到最小值;矩阵的基础知识,求导等等。

2. 第二部分是机器学习部分,我介绍“最小二乘回归”这个非常简单的机器学习模型,还会给出一些例子让大家深入理解。

3. 第三部分是人脸识别部分,我会介绍我导师在2011年用“最小二乘回归”这个模型设计出的人脸识别算法。该算法发表在计算机视觉国际顶级会议ICCV上,目前引用已经超过一千次。

本次教程介绍数学基础。我尽量用浅显易懂的语言让孩子们明白背后的原理。

函数

函数在数学里就是一个对应关系。

比如孩子们在明年的今天,岁数会增加1,那么这用函数来表示就是“明年的岁数=今年的岁数+1”,这已经是函数了,不管你如何鄙视这个函数的简单性。

那我们来看一个稍微复杂点的例子吧,我昨天特地去深圳看了电影《战狼2》,里面出现的祖国的航母非常振奋人心,如果航母以变化的速度航行,那么航母的速度与时间之间有一个对应关系。

如果航母每小时增加或者减少的速度未定,我们可以用“航母的加速度”这个未知量来表示。就是说,航母下一个小时的速度=上一个小时的速度+航母的加速度。

到这里,我们就可以理解函数的导数这个概念,就是对函数求导之后得到的函数。函数导数表示的是函数变化的规律,其本身也是一个函数,表示的是航母加速度与时间之间的对应关系。

大家想想,航母在什么时候速度达到最大值?是不是当航母的加速度为0的时候?你真是太聪明了。

如果严格地来说,如果航母的加速度变成0,那么有两种情况,一种是航母的速度达到最小值,另一种是航母的速度达到最大值。那到底该如何判断呢?为了知道航母在加速度为0时的速度是最大值还是最小值,我们需要知道加速度的变化情况:如果加速度是由大于0变为0之后再小于0,那么在加速度等于0之前,航母一直在加速,在加速度等于0之后,航母一直在减速,在这种情况下的加速度等于0时,航母的速度达到最大值。反之,如果加速度是由小于0变为0再大于0,那么在加速度等于0之前,航母一直在减速,在加速度等于0之后,航母一直在加速,在这种情况下的加速度等于0时,航母的速度达到最小值。我们可以从下图中得到直观的理解:


总之,为了知道航母的速度在加速度等于0的时候到底是最大值还是最小值,我们需要对加速度这个函数再求一次导数,得到加速度的变化规律函数,这个函数反应的是航母的加速度的变化值与时间之间的关系。

为什么要学习函数,函数的导数?因为在很多工程问题(包括计算机,生物,金融)里,优化(optimization)是一个非常有用的工具,在优化中,我们需要时刻了解目标函数是什么,如何优化目标函数即如何使得目标函数最大化或者最小化。当然,在本系列教程里,我也会使用到最基本的优化技巧。

矩阵

函数是一种对应关系,可以两个变量之间的对应关系,也可以是两组变量之间的对应关系。那么每组变量可以有很多表达形式,比如向量(vector),矩阵(matrix),张量(tensor)等等。

向量其实就是把很多独立的变量拼起来,组成一个列。如:

在上图中,A是一个向量,i,j,k是三个互相垂直方向上的长度为1的向量,也叫单位向量。A在i,j,k三个方向上的长度分别为a,b,c,所以A向量是(a,b,c)。一般要竖着写才符合国际规范。上面的向量A是三维的,其实向量可以不止3维,可以是任意维度的,比如B=(a,b,c,d,e,...)都是可以的。

矩阵其实就是把很多相同维度的向量拼起来,组成一个矩阵,一般一列(一竖条)就是一个向量。鉴于大陆和台湾在行和列上面有分歧(具体见:兩岸線性代數用詞參照),我在这里介绍的列是英文里的column,就是竖条的一组向量,而行是英文里的row,就是横条的一组向量。

虽然很多图片是张量(彩色图片有宽,高,RGB通道)或矩阵(灰度图片有宽,高),但是我们一般采用灰度图片,而且把灰度图片拉伸为一个竖直方向上的向量,即一列。

如果函数表达的是矩阵与数值之间的关系,那么函数对矩阵的导数可以用函数对矩阵中的每个变量求导的方式得到。

具体的,我建议大家可以阅读台湾周老师的博客線代啟示錄

如果英文比较好,可以阅读MATH is FUN这个博客上的文章

更复杂的概念和运算方式不要求能理解,这里也不再详述。


下次教程,我会介绍“最小二乘回归”这个非常简单的机器学习模型,还会给出一些例子让大家深入理解。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 205,132评论 6 478
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 87,802评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 151,566评论 0 338
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,858评论 1 277
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,867评论 5 368
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,695评论 1 282
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,064评论 3 399
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,705评论 0 258
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 42,915评论 1 300
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,677评论 2 323
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,796评论 1 333
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,432评论 4 322
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,041评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,992评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,223评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,185评论 2 352
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,535评论 2 343

推荐阅读更多精彩内容