Day 01:以100张图理解 Neural Network -- 观念与实践

转载
陈昭明先生大作

前言

这一波人工智慧(Articial Intelligence,AI)风潮方兴未艾,产学研界发表不少的具体研发成果,例如AlphaGo、机器人、无人驾驶自动车、ChatBot、人脸辨识、语音辨识...等,加上各种媒体新闻不断吹捧,搞的好像不懂AI的资讯人,就快要失业了,于是,狂买了近二十本的相关书籍,准备好好的努力一下,一窥 AI 奥秘,刚好藉由铁人赛督促自己,记录过程并将心得与同好分享,也希望能获得各位先进的指教。

AI的演进

人工智慧其实已经历了三波热潮,如下图,前两波都功败垂成,只留下一些美丽的愿景。


image.png

图. AI 的三波热潮, 资料来源:http://www.testleo.com/blog/archives/6121

为什么这一波会成功? 主要有几个动力:

  1. 资料增加与整理:拜网际网络之赐,资料以指数的速度大量的增加,又因大型网络公司的掘起,他们投注许多的人力与资金,标注(Labelling)训练资料,用于改善自身的核心业务 -- 社群媒体(social media),并开放给一般研究者使用,例如 image.net就拥有超过近1400万张标注的图片,作为影像辨识的训练/测试资料集。另外,手机的盛行让企业轻易蒐集大量的用户行为资料,物联网(IoT)的风潮也会产生大量的感测器资料,这些都将成为 『机器学习』(Machine Learning) 的养分。
  2. 硬体的发展:依摩尔定律的经验法则,积体电路上可容纳电晶体的数量每隔24(或 18) 个月便会增加一倍,以及强大的云端运算/资料中心、还有专为AI设计的CPU/GPU/FPGA/晶片,在在都显著提升伺服器端及用户端设备的运算速度。
  3. 演算法:各种演算法推陈出新,配合GPU算术运算的优势及分散式计算的实现,利用数学/统计理论,计算大量资料,形朔各种模型,应用在影像、语音、文字辨识、处理与回应上,使机器具备人脑一般的智慧。

种种的因素擘划出美丽的未来愿景,还是海市蜃楼? 且看未来发展。


image.png

图. 第三波AI的动能,资料来源: 人工智能,请准备迎接冬天

机器学习(Machine Learning)

这一波AI的主轴就是『机器学习』(Machine Learning),强调让『机器自我学习』,藉由资讯的蒐集与演算法的改进,让机器可以吸收知识,自我学习,并根据学习的成果(即预测的准确性)修正与反馈,不断提升机器的智慧。这种解决问题的方法与传统的系统开发想法有所不同,Machine Learning 不只靠演算法解决问题,也靠不断累积的资料,将之转化为『知识』,深植于模型内,请参考下图说明:

image.png

图. 传统程式开发方式 vs. Machine Learning 解决问题方式

神经网路(Neural Network)

Machine Learning 目前偏向大量使用统计理论作为建立模型的基础,尤其是 Data Mining 方法,包括『决策树』(Decision Tree)、迴归分析(Regression)、支援向量机(SVM)、聚类分析(Clustering)、贝氏分类演算法(Naive Bayes classifier)...等,但目前最夯的是『神经网路』(Neural Network),它主要是模仿生物的神经系统,透过层层连接的『神经元』(Neuron),建立传导的模型,以推论输入(Input)到输出(Output)的过程。


image.png

图. 神经系统,图片来源:李宏毅 一天搞懂深度学习

实作环境(Implementation)

现在网路大厂纷纷推出『神经网路』(Neural Network)的框架(Framework),而且大都是Open Source(佛心来也),以支援Python语言为主流,安装方便,入门的门槛也很低,只要写个十几行的程式,就能辨识阿拉伯数字,乍看一下,好像依样画葫芦,就可以写出个应用系统了,但是每一个演算法都有很多的假设与适用范围限制,可以直接套用,解决问题的机率其实很低,因此,还是要了解其原理,进而知道其假设、限制及可变通的方式(至少调调参数吧!),才能真正解决问题,若把乌龟辨识为枪枝,那就窘了。

这个系列的发文,会以 Google TensorFlow 的框架为基础,採用架构在它上面的Keras为程式开发主轴,它同时也支援其他框架,如 CNTK、Theano,这类的程式(Keras、TFLearn) 称为 Meta Framework,是学习 Neural Network 很好的学习工具。

发文内容

由于 Machine Learning 技术主要是建构在统计及数学的基础上,再加上众多演算法(Algorithms) ,对于从事应用系统开发多年的我而言,要在短时间内打通任督二脉,甚至能动手开发,实在很艰辛,虽然在校学统计6年(从来没应用过,所以也忘得差不多了),又开发系统多年,在自学过程中,仍然频频卡关,脑袋打结,虽然如此,还是在过程中有很大的收穫,因此,为降低读者的学习障碍,撰文以『轻鬆/快乐学习』为出发点,用图说故事,希望有助于釐清各个演算法观念、原理与实作。

系列发文将包括以下内容:

  1. Neural Network 的概念与原理
  2. 开发环境建置
  3. 各类范例程式说明
  4. 各种演算法(Algorithms):CNN、RNN、LSTM 等。
  5. 各式应用:Style Transfer、Image Captioning ...等。

观念会尽量以图说明,原理会牵涉统计,但不会有数学推导(因为我也不会),实作会以Python/Keras程式撰写,读者可以各取所需,不必吃满汉全餐。

由于铁人赛时间紧迫,一边读书、一边看/写程式、一边撰文,发文内容如有谬误,还请各位先进不吝指正,也请各位不要期望过高,毕竟小弟也是刚入门而已。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 218,284评论 6 506
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 93,115评论 3 395
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 164,614评论 0 354
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,671评论 1 293
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,699评论 6 392
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,562评论 1 305
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,309评论 3 418
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,223评论 0 276
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,668评论 1 314
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,859评论 3 336
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,981评论 1 348
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,705评论 5 347
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,310评论 3 330
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,904评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 33,023评论 1 270
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 48,146评论 3 370
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 44,933评论 2 355

推荐阅读更多精彩内容