其他分享
首页 > 其他分享> > 9月11日学习梳理

9月11日学习梳理

作者:互联网

1、对数线性回归:输出标记在指数尺度上变化,将输出标记的对数作为线性模型逼近的目标

       理解:复合函数的问题

2、对数几率回归

        考虑二分类任务,理想的“单位阶跃函数”不连续不可导,需要找替代。常用的是对数几率函数

(logistic function):y=\frac{1}{1+e^{-z}}(是一种“Sigmoid函数”)

        代入 z=w^{T}x+b,可得   y=\frac{1}{1+e^{-(w^{T}x+b)}}

        y为样本x为正例的可能性,1-y为反例的可能性,则几率(odds)为  \frac{y}{1-y}

        对数几率(log odds||logit)\ln \frac{y}{1-y}

        用极大似然法估w和b (没学过极大似然估计,等7.2节详细看,此处略过)

3、线性判别分析

        同类样例的投影点尽可能近(协方差尽可能小),异类样例投影点尽可能远(类中心距离尽可能大)具体推导未看,有需要再看

4、多分类学习

        拆解法——拆为多个二分类问题求解

        拆分策略:一对一、一对其余、多对多

        

标签:11,似然,几率,学习,尽可能,线性,对数,梳理,函数
来源: https://blog.csdn.net/Venki_Li/article/details/120246506