DNFM

• 1. introduction
• • NMF
  • DNMF
• 2.Preliminaries
• • NMF 算法
  • • 1. ENCODER 模块
    • 2. NMF模块
    • Decoder 模块
    • 总体损失

1. introduction

DNFM = Encoder + NFM + Decoder

NMF

• 目的：通过局部系统特性的非负组合来获得系统的整体特性
• 缺点：作为一种线性模型，很难应用于非线性中；
• 限制：输入必须是非负，一些数据是非负的，比如温度…
• 非负非线性的NMF是主要需要解决的

DNMF

• DNMF利用深度学习(Autodecoder)来改进NMF等，从而提供一种新的非线性框架，能够更好的解决非线性的一些问题
• 继承引入核函数的内核思想；核函数将原始数据映射到高维特征空间

贡献：

1. 提出一种数据驱动的非线性工业系统故障检测方法。
2. 利用工业数据自动学习适当的非线性映射函数
3. 非线性框架具有较强的泛化行和灵活性
4. 基于nmf但是输入可以非负，扩展了其他应用范围

2.Preliminaries

NMF 算法

1. ENCODER 模块

经过非线性映射函数 E n ( x ) En(x) En(x), 将原始数据 x ∈ R m x\in \mathbb{R}^m x∈Rm投射到高纬特征空间 F F F中，得到向量 φ ( x ) ∈ R f \varphi (x)\in \mathbb{R}^f φ(x)∈Rf

• 其中f为F的维数， E n ( x ) En(x) En(x)由CNN组成的编码器网络实现。在这个CNN中。最后一个卷积层的输出feature map被平展成一个矢量。
• 由于NMF模块要求输入是非负的。所得到的向量通过激活函数ReLU来激活得到非负输入。
  

2. NMF模块

当 x x x映射到 φ ( x ) \varphi (x) φ(x)时， 执行线性NMF提取系统特征 h ∈ R d ( d < f ) h\in R^d(d<f) h∈Rd(d<f), NMF的两个矩阵W和H利用梯度下降交替迭代求解。

建立一个神经网络来实现NMF算法

• 首先， φ ( x ) \varphi (x) φ(x) 通过一个无偏全连接（FC）层获得我们最终将提取的系统特征h。
• FC的权重必须通过ReLU激活，激活的权重为v
• 将h限制在同 φ ( x ) \varphi (x) φ(x)相同子空间中，来确保h是非负的
• h之后是无偏FC层，同时这一层的权重必须由ReLU激活,来确保训练基矩阵W是非负的。
• output： φ ^ ( x ) ∈ R f \hat{\varphi}(x)\in \mathbb{R}^f φ^​(x)∈Rf

消耗损失：

其中NMF算法：
φ ( x ) ≈ W T h \varphi (x)\approx W^Th φ(x)≈WTh
where W ≥ 0 a n d h ≥ 0 W\geq 0 and h\geq 0 W≥0andh≥0

Decoder 模块

目标是重建映射 φ ^ ( x ) \hat{\varphi }(x) φ^​(x)

重建损失：

• 解码器网络结构与编码器网络结构几乎对称，可以看作是编码器的逆过程，有效地实现了无监督学习。

总体损失

• 三个模块通过反向传播联合训练

标签：via,Matrix,非负,非线性,Factorization,NMF,En,varphi,模块
来源： https://blog.csdn.net/weixin_44177594/article/details/117733765