生成式模型和判别式模型

LawsonAbs的认知与思考，还请各位读者审慎阅读。

总结

• 文章来源：csdn：LawsonAbs
• 持续更新~

---

1.生成式模型和判别式模型

1.1 共同点

二者的目的都是要计算在给定条件（也就是特征）x的情况下，属于某个类别 y i y_i yi​的概率 p y i p_{y_i} pyi​​，写成数学式子
也就是计算条件概率 P ( y i ∣ x ) P(y_i|x) P(yi​∣x)。

1.2 不同点

虽然目的相同，但是计算方法却有所区别，下表给出二者的比较。

比较项	生成式模型	判别式模型
建模对象	联合分布P(x,y)	条件分布P(y|x)
计算公式	P ( Y ∥ X ) = P ( X , Y ) P ( X ) P(Y\|X)=\frac{P(X,Y)}{P(X)} P(Y∥X)=P(X)P(X,Y)​	直接计算
模型集合	朴素贝叶斯，贝叶斯网络，隐马尔可夫模型，LDA	最大熵模型，条件随机场

下面给出一张图【《百面》的P125】，用于解释整个计算的流程：

2 生成式模型

2.1 主要思想

• 首先构建并学习输入特征和输出类别的联合分布
• 然后利用贝叶斯公式推导出输出类别的后验分布
• 最后结合决策损失函数构建判别函数进行分类决策

2.2 实例

朴素贝叶斯分类器。

3 判别式模型

3.1 主要思想

• 直接构建并学习出输出类别在输入特征条件下的条件分布
• 结合决策损失函数构建判别函数进行分类决策

3.2 实例

逻辑回归。

参考资料

• 《百面机器学习算法》

标签：模型,生成式,贝叶斯,构建,类别,判别式
来源： https://blog.51cto.com/lawsonabs/3036485