大热的深度学习,我们该如何看待呢?

相信,大家仍然记得大热科幻片中,天网对人类的统治。正因如此,深度学习作为一种科学技术,才被摆上一个充满舆论争议的位置上——乐观的人认为攻克智能奇点的堡垒马上就要实现,悲观的人则畏惧高科技带来的束缚与毁灭而惶惶不可终日。那么,到底我们应该怎样看待hit爆的深度学习呢?大圣众包威客平台(www.dashengzb.cn)与你一起探讨。

一、深度学习有多deep

从概念上说,作为传统机器学习中神经网络(NN)、感知机(perceptron)模型的扩展延伸,正是深度学习(DL),或说深度神经网络(DNN)的表现形式。

单看DNN近几年在科技界惊人且频频引发议论的成果,就可以看出它的前途无可限量。DNN在众多应用领域的成功毋庸置疑。譬如,能和人对话的语音助手,能“读懂”照片内容的图像识别系统,甚至是引发滔滔议论的能击败围棋世界冠军的AlphaGo……有着结构过于错综复杂、性质难以分析的“黑盒子”特质的深度学习,引发了学术界的众多顾虑和好奇,而正因研究人员对DNN的火热的好奇心以及孜孜不倦的钻研能力,使得DNN的研究成果正以惊人的速度增长。

其实,站在客观的角度上看,DNN和K-Means、稀疏编码(sparsecoding或Lasso)、主成分分析(PCA)等众多基础的模型并无什么不同,都是属于机器学习中特征学习(featurelearning)的范畴。因此,无需过于惊慌地把DNN划分到天网、人工智能终点,甚至是上帝的位置去。如果一定要说DNN有什么过人之处,一字记之曰——深。

二、学者争相研究

为了理解DNN有多deep以及其工作原理,自2013年起,已经不断有学者从不同的角度研究DNN和各类传统机器学习模型之间的内在关系,这些传统机器学习模型包括小波分析、高斯过程、条件随机场、稀疏表示等。这些在科研上的努力,甚至可能从传统模型的分析方法中掘得金矿,为DNN的理论框架添砖加瓦,让其不断朝着远方发展。

三、深度学习的优势

从深度学习掀起的铺天盖地的热潮中反观,它固然有自身的优势:

1.端到端(end-to-end)的训练方式,让以往模型分模块训练(hierarchical)、各模块没有彼此优化的劣势被克服了;

2.动辄成百上千万的空前庞大的参数(parameter)量,远远超过以往任何模型的参数数量级,极大增强了模型对于复杂映射(mapping)的表达能力;

3.它具有有效训练如此巨大模型的一套手段。在GPU高性能计算、无穷无尽的tricks(如dropout、batchnormalization等),以及大数据产业发展的大力推动下,深度学习被推上了浪潮尖端。

四、深度学习的劣势

尽管深度学习在应用上取得了巨大的成功,但是,理论缺失、“沙上筑塔”的隐忧让它颇为人诟病。由于DNN本身函数的高度非线性和非凸性,免不了会受困于求解算法本身的粗糙和经验化上,因此,传统方法的优良性质和可解释性在DNN中可谓之无,着实遗憾。

Anyway,深度学习既有自身的优势,也有自身的劣势,但是瑕不掩瑜。在大数据产业高速发展、“互联网+”大力助力之下,深度学习仍将继续火爆下去。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 213,864评论 6 494
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 91,175评论 3 387
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 159,401评论 0 349
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 57,170评论 1 286
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 66,276评论 6 385
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 50,364评论 1 292
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 39,401评论 3 412
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 38,179评论 0 269
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,604评论 1 306
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,902评论 2 328
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 39,070评论 1 341
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,751评论 4 337
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 40,380评论 3 319
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 31,077评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 32,312评论 1 267
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,924评论 2 365
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,957评论 2 351

推荐阅读更多精彩内容