拉格朗日乘数法

拉格朗日乘数法

拉格朗日乘数法是一个理论结果，用于求解带有等式约束的函数极值。对于如下问题：

 

构造拉格朗日乘子函数：

 

 

 

在最优点处对x和乘子变量的导数都必须为0：

 

 

解这个方程即可得到最优解。对拉格朗日乘数法更详细的讲解可以阅读任何一本高等数学教材。

 

机器学习中用到拉格朗日乘数法的地方有：
主成分分析
线性判别分析
流形学习中的拉普拉斯特征映射
隐马尔科夫模型
 

标签：拉格朗,判别分析,法是,子函数,乘数,乘子
来源： https://blog.51cto.com/u_15282017/2957344