统计机器学习（二）-- 概率（3、4、5、6）

概率

1.1 概率空间和事件
样本空间\Omega是实验所有可能结果的空间， \omega\in\Omega, 是一个元素或者实现
事件是样本空间的子集

测度论相关 巴拉巴拉

P(A\cup B)=P(A)+P(B)+P(A\cap B)

随机变量

\Omega \rightarrow \Re

离散随机变量

P \{ X=x_k \} = p_k, k=1,2,···
f_x(x) = P(X=x)

  • (0-1)分布
    P\{X=k\} = p^k(1-p)^{1-k}, k=0,1
    数学期望E(X) = p

  • 二项分布
    p\{X=k\} = C^k_np^k(1-p)^{n-k}
    数学期望E(X) = np

    • 性质
      X_1 \sim Binomial(n_1, p) \\ X_2 \sim B(n_2, p) \\ X_1+X_2 \sim B(n_1+n_2, p)
    • \Gamma函数
      \Gamma(n) = (n-1)! \quadn:整数
      \Gamma(z) = \int_0^{\infty}\frac{t^{z-1}}{e^t}dt

    \binom{n}{k} = \frac{n!}{k!(n-k)!}= \frac{\Gamma(n+1)}{\Gamma(k+1)\Gamma(n-k+1)}
    r:real number\\k:integer\\\binom{r}{k}= \frac{\Gamma(r+1)}{\Gamma(k+1)\Gamma(r-k+1)}\\ \binom{r}{0} =0\quad\binom{r}{1}=r

    • 推广
      (1+z)^r=\sum_k\binom{r}{k}z^k \quad |z|<1

      • Negative Binomial Distribution


  • 几何分布
    P\{X=k\}=(1-p)^{k-1}p
    数学期望E(X) = \frac{1}{p}
    比如丢硬币得到一次正面所需要的次数

  • 泊松分布
    P\{x=k\}= \frac{\lambda^ke^{-k}}{k!}

    • 泊松定理
      \lim_{n\to\infty }C_n^kp_n^k(1-p_n)^{n-k}=\frac{\lambda^ke^{-\lambda}}{k!}
      注意np_n=\lambda：意味着当n很大的时候p_n必定很小
      可能场景：一本书中一页的印刷错误，一天内病人的人数

  • 几何分布和泊松分布的关系


CDF : 分布函数 \Re\rightarrow[0,1]

F_X(x)=P(X<x)

inverse CDF

F^{-1}(q)= inf\{x:F(x) >q\}
指使F(x)>q的最小的x值，也叫做的分位数函数

Mode 众数

概率最大的数, PDF极值

连续分布

公式

For \quad a>0, p>0 \\ \int_0^\infty x^{p-1}e^{-\alpha x}dx=\alpha^{-p}\Gamma(p)

广义逆高斯分布（GIG）

f(x)=\frac{(a/b)^p/2}{aK_p(\sqrt{ab})} x^{p-1}e^{-(ax+bx^{-1}) / 2}

  • Kr(·) 修正的贝塞尔函数
    K_r(\mu)=K_{-r}(\mu)\\K_{r+1}(\mu) = 2r/\mu K_r(\mu) + K_{r-1}(\mu)\\ K_{1/2}(\mu) = K_{-1/2}(\mu)=\sqrt{\pi/2\mu} e^{-\mu}
Gamma 分布



https://blog.csdn.net/weixin_41875052/article/details/79843374

\chi^2分布
Beta 分布

https://blog.csdn.net/bitcarmanlee/article/details/82156281

t分布
©著作权归作者所有,转载或内容合作请联系作者
【社区内容提示】社区部分内容疑似由AI辅助生成，浏览时请结合常识与多方信息审慎甄别。
平台声明：文章内容（如有图片或视频亦包括在内）由作者上传并发布，文章内容仅代表作者本人观点，简书系信息发布平台，仅提供信息存储服务。

相关阅读更多精彩内容

  • 概率基础·统计学完全教程学习笔记1
    统计学完全教程，原著名为all of statistics learning，作者是Larry Wasserman...
    天天向上的旭小锋阅读 2,443评论 1赞 8
  • 学习_Excel_统计函数
    按照用途分类出以下统计函数： AVEDEV 用途：返回一组数据与其平均值的绝对偏差的平均值，该函数可以评测数据(例...
    四方院祭司阅读 3,058评论 0赞 3
  • 悸动
    最近突然迷上了 我是演说家。 被其中的一些人，他们的一些演讲所触动到。 比如一个用十年准备，十年走遍中国的大哥！一...
    梓瑄微语阅读 220评论 0赞 1
  • 为什么总是没灵感?52%
    坚持写作一百天的计划，我己经执行了51天，但是因为这两天因为迟迟找不到素材，脑子似乎被掏空一般，完全没有货，...
    真峥阅读 489评论 0赞 1
  • 【八声甘州】
    雨初歇暮色洒长亭，怎尽洗离愁。 卧芦花深处，泠泠江岸，静渡偏舟。 怜爱蟾华盈满，独上倚高楼。 吹罢阳关曲，不下心头...
    眉山月阅读 462评论 0赞 8

友情链接更多精彩内容