编程语言
首页 > 编程语言> > 概率图模型-10.近似推理 BP算法的能量最小化解释

概率图模型-10.近似推理 BP算法的能量最小化解释

作者:互联网

一般只有树状
符合次模性的结构才能精确推理

一般图只能用近似推理

BP算法在有环的,没法使用

本章讲解的是BP算法如何在因子图上执行,之前讲的是在聚类图上执行

\(n_{i\to a}(x_i)\)从变量节点\(i\)到因子节点\(a\)的消息

\(i是变量节点,没有势函数,要计算i的邻居节点(\a 把a排除在外)m_{a\to i}(x_i)做连乘积\)

第二类消息

\(m_{a\to i}(x_i)\)从因子节点\(a\)到变量节点\(i\)的消息

\(a的势函数乘以 a的邻居节点传递给a的消息(i排除在外)做一个连乘积,然后还要做求和边缘化(X_a\ x_i),X_a 包含3个变量,因为有三条边\)

计算信念值

目标,计算节点1的信念值

\(1.变量1只有1个邻居节点,计算a到1的消息,红色箭头\)
\(a的节点的势函数,乘以 a邻居节点传递给a的消息,同时做求和边缘化\)


\(2.求蓝色的,2-a的消息\)

\(计算b-2的m值,有两条边到b,3-b,4-b\)
\(然后对x_2,x_3,x_4求和边缘化\)

\(求3-b的消息,没有其他边了,等于1\)

\(求n_{4-b},等于m_{c-4}\)
\(c-4的消息,等于f_c(x)这个因子\)

重要内容,自由能最小化的解释

归一化因子Z不好求,解决思路如下

\(变分推理的思想,直接求F_H不好求,引入了b(x),最小化F(b)\)

标签:10,变量,因子,势函数,BP,消息,最小化,节点
来源: https://www.cnblogs.com/boyknight/p/15930069.html