2019-04-28《deep learning》深度学习“花书”阅读整理-Chapter3 概率与信息论(上)

深度学习“花书”中的概率论部分梳理以及要点记录。

首先是概念的梳理,见下图:


深度学习相关的概率论思维导图

上图都是最基础的本科概率论课程内容,公式不再赘述。

下面把其中需要注意的一部分单拎出来叙述--连续型变量的技术细节

涉及到测度论的一些内容

零测度:非常微小的点集,在我们的度量空间中不占有任何的体积。

几乎处处:某个性质如果是几乎处处都成立的,那么它在整个空间中除了一个测度为零的集合以外都是成立的。概率论中一些重要结果对离散值成立,但是对连续值只能是“几乎处处”成立。

Jacobian矩阵(Jacobian matrix):

在高维空间中,为防止函数引入导致的空间变形,微分运算扩展为Jocobian矩阵,即矩阵的每个元素变为:

©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成,浏览时请结合常识与多方信息审慎甄别。
平台声明:文章内容(如有图片或视频亦包括在内)由作者上传并发布,文章内容仅代表作者本人观点,简书系信息发布平台,仅提供信息存储服务。

相关阅读更多精彩内容

  • @[toc] 第三章 概率与信息论 掌握深度学习中所需要的概率论相关知识 概率论[p47-p71] 3.1 为什么...
    CrazyWolf_081c阅读 1,165评论 0 0
  • 贝叶斯的路——概率论迷思 作者:覃含章 我想,任何一个进入概率论(然后才是统计学)大门的年轻人,一定会在学习的过程...
    hzyido阅读 1,957评论 1 11
  • 考试形式和试卷结构一、试卷满分及考试时间 试卷满分为150分,考试时间为180分钟 二、答题方式 答题方式为闭卷、...
    幻无名阅读 856评论 0 3
  • 2017年考研数学一大纲原文 考试科目:高等数学、线性代数、概率论与数理统计 考试形式和试卷结构 一、试卷满分及考...
    SheBang_阅读 724评论 0 7
  • 一个湿气朦朦还未完全天亮的早上,街道沉静一片。你一个人出门,原本以为街上没人的你恍然碰到一个披头散发你曾偶见几次并...
    泽野心阅读 708评论 0 0

友情链接更多精彩内容