深度学习的前世今生 | 读《深度学习:智能时代的核心驱动力量》

荐语

人工智能可以说是当下最热的话题之一,由此也引发了不少关于“人类生存危机”的讨论。只有了解人工智能和深度学习的前世,才能帮助我们更好地站在当下、展望未来。《深度学习:智能时代的核心驱动力量》一书为我们描绘了人工智能的简明历史,介绍了深度学习的过去、现在和未来。全书分三个部分,第一部分介绍了深度学习缘起的动机和技术背景,第二部分解释了几种不同类型的神经网络架构中的学习算法,第三部分则探讨了深度学习对当下我们生活产生的影响以及对未来可能产生的影响。本文将主要梳理《深度学习:智能时代的核心驱动力量》一书的第一部分,即深度学习缘起的动机、技术背景,与读者分享人工智能发展以来的各种“艰辛”。

作者简介


本书作者特伦斯·斯诺夫斯基(Terrence Sejnowski),是全球人工智能十大科学家之一、深度学习先驱及奠基者,美国四大国家学院在世仅3位的“四院院士”之一,全球人工智能顶级会议NIPS基金会主席。其主理的《学习如何学习》(Learning how to learn)是全球最大在线学习平台Coursera最受欢迎课程,学习人数超过300万。作为神经网络的先驱,早在1986年,就与杰弗里·辛顿共同发明了玻尔兹曼机。


引言

深度学习的起源可以追溯到20世纪50年代人工智能的诞生。关于如何构建人工智能,当时存在两种不同的观点:一种观点主张基于逻辑和计算机程序,曾主宰人工智能的研究和应用数十年;另一种观点则主张直接从数据中学习,经历了更长时间的摸索才逐渐成熟。下图呈现的是这一时期的几大关键事件。


一、早期的AI:计算机视觉和专家系统 

(一)20世纪60年代:计算机视觉

最早,人们有一种“错觉”,认为编写计算机视觉程序很容易。其演进过程也证明并非如此。

计算机视觉研究中最早的想法之一是将物体的模板与图像中的像素进行匹配,但是这种方法收效甚微,因为同一物体不同角度的两个图像中的像素并不匹配。

因此,计算机视觉的进步是通过关注特征而非像素来实现的。例如,赏鸟者必须具备专业水平才能区分只在一些细微处略有差异的不同鸟类。然而,这种基于特征的识别方法也面临诸多挑战,如,需针对不同物体开发特征检测器(耗费人力)、被部分遮挡的物体的图像识别容易产生歧义(不够准确),等。这让早期AI先驱们十分懊恼。

(二)20世纪70年代-80年代:人工智能专家系统

人工智能专家系统在20世纪70年代-80年代非常流行。

最典型的就是在医学领域,开发了一个专家系统MYCIN,用来识别导致感染性疾病的细菌。其开发思路大体是:收集由传染病专家提供的事实和规则,已经病人的症状和病史,然后将信息输入系统中的计算机,最后通过编写程序让计算机使用逻辑进行推理。这看上去似乎不难,然而在实际操作时缺困难重重,如,规则的权威度,信息录入耗费人力,等等。

(三)小结

早期的AI进展十分缓慢,主要有几个原因:研究人员低估了现实世界问题的复杂性,提出的解决方案又无法进行大规模应用,当时的数字计算机还处于非常原始的阶段,且存储器成本十分高昂。

二、AI的重生:深度学习和神经网络

(一)跳出困境:向人脑学习

任何人工智能的难题都可以被解决。自然界给出了四条暗示,跳出已有视角,向人类的大脑学习:

第一,我们的大脑是强大的模式识别器。

第二,我们的大脑可以通过练习来学会如何执行若干艰巨的任务。

第三,我们的大脑并没有充斥着逻辑或规则。

第四,我们的大脑充满了数百亿个小小的神经元,每时每刻都在互相传递信息。

(二)深度学习的起点

康奈尔大学教授弗兰克·罗森布拉特是最早模仿人体自动图案识别视觉系统架构的人之一,他发明的“感知器”是深度学习网络的早期雏形,是能够将图像进行分类的简易学习算法。

感知器激发了对高维空间中模式分离的美妙的数学分析。俄罗斯数学家弗拉基米尔·瓦普尼克在此基础上将感知器泛化,提出“支持向量机”,并被大量用于机器学习。

但是,后来马文·明斯基和西摩尔·帕普特在1969年出版的《感知器》一书中指出,感知器的能力是有限的,它只能区分线性可分的类别。

尽管出现了分歧,但他们的研究都对我们理解感知器有着重要贡献,而这也正是深度学习的起点。

(三)被低估的神经网络

弗兰克·罗森布拉特开启了利用神经网络进行计算的新时代,止于1969年的争论。直到20世纪80年代,新一代神经网络研究人员开始重新审视这个问题。

本书作者特伦斯·斯诺夫斯基和杰弗里·辛顿合作研究出了一种新型神经网络模型,叫作“玻尔兹曼机(Boltzmann machine)”,就此打破了阻碍一代人研究多层网络模型的僵局。玻尔兹曼机学习算法可以学习处理“暗箱”问题,这表明通过多层网络的长期训练,可以达到预想的效果。

机器学习的发展,与乔治·布尔的著作《思维规律的研究》有密切关联,这是“布尔逻辑”的数学基础,是数字计算的核心,也是20世纪50年代人工智能萌芽期成果的基石。

“奖励学习”是机器学习研究的一个新兴分支,受启发于心理学的联结主义。机器通过探索环境中的各种选择,并从结果中学习,如果行动成功,计算机便得到奖励,最终发现最佳策略。

这一时期学者们的努力,开创了“计算神经科学”“人脑连接组学”“认知神经科学”等新兴研究领域,对大脑学习行为的研究也从行为层面深入到分子层面。

三、AI的未来走向:智能时代的来临

在信息科学的推动下,我们将步入算法驱动、芯片崛起的智能时代,走向深度智能。未来,我们也将迎来更便捷的生活、更精准的医疗以及更出色的教育。

“人类智能是如何进化的,人工智能又将如何演进”是本书的核心议题。这两种智能之间的巨大差异在于,人类智能的进化经历了数百万年的时间,而人工智能在最近几十年才发展起来。作者指出,“人工智能”不会取代“人类智能”,反而会让我们更加“聪明/智能”。但前提是,我们要成为更出色的学习者、成为终身学习者。

美国哲学家伊德(Don Ihde)提出了技术哲学,我们应该清楚地认识到,技术已经介入并融入到我们生活的各个层次,成为我们身体的一部分,改变了人和世界的关系。未来,人将被分为两类,互动者和被互动者。只有成为更出色的学习者,才不会被技术互动,被人工智能取代。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 194,088评论 5 459
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 81,715评论 2 371
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 141,361评论 0 319
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 52,099评论 1 263
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 60,987评论 4 355
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 46,063评论 1 272
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 36,486评论 3 381
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 35,175评论 0 253
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 39,440评论 1 290
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 34,518评论 2 309
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 36,305评论 1 326
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 32,190评论 3 312
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 37,550评论 3 298
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 28,880评论 0 17
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,152评论 1 250
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 41,451评论 2 341
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 40,637评论 2 335

推荐阅读更多精彩内容

  • 摘要 深度学习可以完成需要高度抽象特征的人工智能任务,如语音识别、图像识别和检索、自然语言理解等。深层模型是包含多...
    蓝鸥科技阅读 1,253评论 1 14
  • “红豆生南国,春来发几枝,愿君多采撷,此物最相思。”这首王维的相思是在小学时最先读到的,当时只知王维是一时思念之...
    萌出天际阅读 323评论 0 2
  • 今天开始学习scrapy,按照学习文档的提示,在我的mac电脑终端输入如下命令: 结果出现了如下错误: 网上一番搜...
    盗花阅读 1,955评论 0 0
  • 我是坂本我最吊?没道理 加假如这是考试。有用,紧张了 心理暗示到底什么时候有用?
    asTIma阅读 116评论 1 0