深度学习思考

神经网络如果能了解每一层输出的意义,就可以避免end-to-end 的黑箱理论,对理论话深度学习很有意义,一个思路是经验值,将每一层在特定任务下都有输出,对结果作经验总结,比方说浅层输出低层次的几何轮廓特征,高层输出语意特征,我曾经在 object tracking 用过这样的方法,在大数据集测试,每一层都输出结果,并且和hand craft feature 做比较,发现浅层的效果不如hand craft feature,中高层看任务,并不是所有的情况,深度学习的特征都好于hand craft feature,只是特别复杂的任务深度学习的特征要好于hand craft feature。

还有一个思路是借助其它机器学习来帮助我们理论话深度学习,他山之石,可以攻玉,例如随机森林就是一个很好的例子,逆向解构,把深度特征输入其它 模式(理论清晰)训练,看看会出现什么效果,然后再做逆向分析。


以上纯属胡思乱想,无任何依据可言。

©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

相关阅读更多精彩内容

  • 机器学习的套路 大部分机器学习算法(包括深度学习),其实是在一个理想空间里(接下来我们会以三维空间为例子)寻找一个...
    祝威廉阅读 2,568评论 0赞 20
  • 转载注明源自叨叨戚 进化馈赠每人一个无限可能的大脑,可很多人把它浪费了 三重脑理论 美国国家精神卫生研究院神经学专...
    船长戚戈XGeek001阅读 637评论 0赞 1
  • 五、Deep Learning的基本思想 假设我们有一个系统S,它有n层(S1,…Sn),它的输入是I,输出是O,...
    dma_master阅读 1,982评论 1赞 2
  • 文章作者:Tyan博客:noahsnail.com | CSDN | 简书 声明:作者翻译论文仅为学习,如有侵权请...
    SnailTyan阅读 5,573评论 1赞 3
  • 他的灵柩上摆着的是他生前最爱的一张照片,也是她最喜欢的。 他是突然去世的,才被送进那家小诊所,他的妻子还在焦急的等...
    sango珊阅读 243评论 0赞 0

友情链接更多精彩内容