什么是极大似然估计？

极大似然估计法是在总体的分布类型已知的前提下使用的一种参数估计法。设总体X的概率函数 (连续型时为概率密度函数)为f(x, θ),X1,X2,…,Xn是抽自总体X的随机样本。于是，样本的联合概率函数(连续型时为联合概率密度函数)为：

将上式简记为L(θ )，称L(θ)为θ的似然函数，如下所示

怎能才能来求导模型参数θ呢？

现在我们的任务是，根据我们观测到一组样本 X1, X2, …, Xn，要估计未知参数θ。我们可以这样来思考问题，哪个参数(多个参数时是哪组参数) 使样本出现的可能性 (概率) 最大，该参数(或哪组参数)就作为参数的估计，这就是极大似然函数的原理，我们可以表示为：

总的来说极大似然估计就是在给定样本x1，x2，...,xn的基础上寻找能使得联合概率密度最大的参数θ。

要想求解，往往需要使用求导的方式，如下所示：

若θ是向量，往往需要求偏导数，然后构成一个似然方程组求解：

通过对这个方程组进行求解，那么就可以的得出对应的模型参数了。

此时的模型参数就是令当前样本最大的概率。求出概率之后，就可以通过当前学习的模型来预测未知的样本了。所以从这个角度来看，当样本数量越多的时候，模型参数θ估计的会越好越准确，这也从两外一个角度来说明了，数据的重要性。

免责声明：本文来自幻风的成长之路客户端，不代表超天才网的观点和立场。文章及图片来源网络，版权归作者所有，如有投诉请联系删除。