正态分布的极大似然估计推导

推导下述正态分布均值的极大似然估计和贝叶斯估计。
数据x1,x2,…,xn来自正态分布N(μ,σ2)，其中σ2已和。
(1)根据样本x1,…,xn写出μ的极大似然估计。
(2)假设μ的先验分布是正态分布N(0,τ2)，根据样本x1,…,xn写出μ的Bayes估计。
先求极大似然估计Maximum Likelyhood Estimation
正态分布的概率密度函数是

目标函数为

关于这个公式有必要解释一下。
（1）为什么是连乘？因为样本独立，所以联合概率为各样本单独的概率的乘积。
（2）为什么N个样本的概率是概率密度函数的连乘而不是概率的连乘？其实严格来说应该是概率（而不是密度）的乘积。这里做了一个简化。对于连续随机变量来说，某一点的概率都是0。我们讨论的随机变量等于某个值的概率其实是指取值在这个值的小领域ε的某个概率，当ε很小时，可近似认为：

由于2和ε都是常量，当在讨论联合分布概率的大小时，可忽略这2个值，可用密度函数代替概率。


可以看到极大似然估计就是n个样本的均值。

标签：似然,连乘,概率,推导,样本,估计,正态分布
来源： https://blog.csdn.net/greatwall_sdut/article/details/104658383