二项分布极大似然
这个概念既是对二项分布在极大似然的条件下的参数估计,求每个数据点似然值的乘积。
我们还是用之前的例子,我们调查7个人,假设每个人喜欢两种口味芬达的概率各为0.5,恰好有4人喜欢橘子味的芬达,3个人喜欢葡萄味的芬达的概率:

image.png
那么我们换个话题,我想求调查7个人,有4个人选择橘子味的芬达,每个人选择橘子味芬达的概率p=0.5的似然值

image.png
右边式子不变(里面参数值都可以变的)

image.png
求调查7个人,有4个人选择橘子味的芬达,每个人选择橘子味芬达的概率p=0.25的似然值
那么接下来,我们想求一下,每个人选择橘子味芬达的概率p为多少时,调查7个人,有4个人选择橘子味的芬达的似然值最大:
若以每个人选择橘子味芬达的概率p为横坐标,似然值为纵坐标,那么一般会有一个概率值p使得似然值最大

image.png
-
构造似然函数:该似然函数以概率p为自变量
image.png
2.自然对数化:
image.png
3.求导:令其为0
image.png
image.png
image.png
意味着当每个人选择橘子味芬达的概率p=0.57时,调查7个人,有4个人选择橘子味的芬达这个事件发生的似然值最大
一般的,总人数n和喜欢橘子味芬达的人数x未知的情况下:

image.png

image.png

image.png
这样就求得了p与n和x之间的关系了
正态分布极大似然
我们先看一下正态分布的分布密度函数:

image.png
例如我要求某个条件下的似然值,如下图:

image.png
似然值为0.03
那么我们在极大似然的基础上,估计正态分布的参数(均值和方差),对于每个数据点来说,它们的似然值都应该达到最大;那么对于所有的数据点,它们的乘积也会是最大的

image.png
同样的道理:
-
构造似然函数:
image.png -
取自然对数:
image.png
取对数的好处是可以将乘积变成加和
3.对均值求偏导:
image.png
化简得到
image.png -
对标准差求偏导:
image.png
化简得到
image.png -
分别令其为0
对均值求偏导:
image.png
image.png
对标准差求偏导:
image.png
image.png
这样的化就可以求得,均值和方差的参数估计值了















