利用指数加权进行局部平均值计算---指数加权平均(吴恩达)

对于5个数值的平均值我们可以使用求和均值计算

对于10个数值的平均值我们也可以使用求和均值计算

对于20个数值的平均值，如果存储条件允许，可以考虑使用求和均值计算

但对于50个数值等甚至更多的数值，直接使用求和均值计算，对于内存来说是十分不友好的。

指数加权平均法，即v_t = （1-β）θ_t + βv_t-1，其中v表示均值，θ表示当前值

从公式可以看出，利用迭代的算法，通过调节加权值β，可以反映某个区间的均值，且无需存储大量数据

当β较小时，均值依赖当前值较大，所以只能反映较小区间的均值

当β较大时，均值依赖历史值较大，所以可以反映较大区间的均值

得到区间长度为1/(1-β)，如当β=0.9时，反映区间长度为1/(1-0.9) = 10的均值

偏差修正

对于迭代算法来说，初始值是十分重要的，但当算法输入为零初始值(这是由于历史值缺失)，前期的均值估计将变得不够准确，造成偏差，于是需要进行偏差修正

修正方式

　　使v_t  = v_t  / (1-β^t）

　　由于前期的均值v_t 依赖当前值，所以需要将当前值的加权(1-β)进行适当抵消(1/ (1-β))，而随着t的变大，均值v_t 对于当前值的依赖逐渐拉回正常状态，所以抵消程度要逐渐降低，于是加上指数t，最后调整就成为1/ (1-βt），当t不断变大时，1-β^t不断趋近于1，即修正逐渐消失，如图紫线所示。

标签：加权,吴恩达,平均值,求和,均值,数值,---,vt
来源： https://www.cnblogs.com/toriyung/p/16535030.html