The limitations of deep learning

出处:https://blog.keras.io/the-limitations-of-deep-learning.html

1.从几何角度看DL

meaning(text/image..) -> vectors -> geometric spaces->learning geometric transformations 

局限:geometric transformations 关键在于可微(通过梯度下降学习参数),从inputs到outputs  必须是光滑且连续的。

2.

DL本质:a chain of simple, continuous geometric transformations mapping one vector space into another

但凡需要推理的,如果编程、应用科学方法、长期计划等,甚至是学习一个升序排序,都很难。

现有的DL技术,加大数据量或是增加层只是表面地减轻这些问题。

3.Neural Network并不真的理解人的思维,不具有人性化,所以有时会出现很可笑的结果

4.Local generalization versus extreme generalization

机器:Local generalization

人:extreme generalization(抽象思维)

例子:学习降落月球参数(NN依赖大量数据,人可以用抽象物理公式和模型)

学习驾驶(NN依赖大量数据,换一座城市需要重新学习)

总结:现有的成功来源于continuous geometric transform以及大量人工标注数据。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

推荐阅读更多精彩内容

  • 今年过年,带男朋友回家了。男方带了六件礼,其中酒是宣酒10年,安吉白茶应该是四两,我父亲包了一千的红包。 下午我去...
    懒猫三娘阅读 452评论 0 0
  • 算起来我们原来已经认识这么多年了,七年,多么久的时光。七年来我们哭过笑过吵过也闹过,但是跌跌撞撞的我们还是坚定的牵...
    WuLi欧尼酱阅读 295评论 0 0