其他分享
首页 > 其他分享> > 线性回归

线性回归

作者:互联网

分类(0 or 1)和回归(多少范围内)  可以用来预测

目标:找到θ矩阵的最优解

【不建议将线性回归用于分类问题】

机器学习:需要用到的数据,怎样学(目标函数),逐渐达成目标

 

偏置项作用:微调最终结果

 

 

 目标是:误差项最小

 

 

 

 数据在独立同分布的情况下,联合概率密度=边缘概率密度的乘积,(下面的似然函数)

变成对数似然的话函数曲线大致一样,不影响取最大值(也是目标),而且乘法变成加法计算起来也更加方便一点

 

 

 

 

 

 

下面的操作都是基于矩阵,(-1矩阵的求逆)

 

 

 

 

上面虽然求解出了日(当做一个巧合),但是没有体现出来机器学习的内容,应该是计算一个数据看看结果,然后调整,再次计算下一个数据看结果...

 

 

 

 

 梯度下降一次走一点点,一次走太多的话容易走偏。最后在最低点左右徘徊

 

 

 

 

 i 表示第几个样本,j表示第几列,Xij表示一个数

 偏导数表示固定面上一点的切线斜率

Z(真实值-预测值)Xij

 

 

小批量梯度下降法里面的阿尔法就是步长

如何一步步移动?:是不是日更新了,再带入原来的数据  相比于之前就有移动?

 

 

标签:似然,Xij,矩阵,概率密度,目标,线性,数据,回归
来源: https://www.cnblogs.com/liujinmeng/p/15593551.html