首页 > 其他分享> > 信道容量即是输入与输出的互信息量的最大值

信道容量即是输入与输出的互信息量的最大值

2020-01-15 11:39:39 作者：互联网

根据极化码的原始论文中提出的信道容量为

$I(W)=\sum_{y\in Y}\sum_{x\in X}\frac{1}{2}W(y\mid x)log\frac{W(y\mid x)}{\frac{1}{2}W(y\mid 0)+\frac{1}{2}W(y\mid 1)}$

它是一种信道速率的丈量,标志着信道速率的上限，，即信道的输入与输出的互信息量的最大值；

所谓的互信息定义是：

设两个随机变量 $(X,Y)$ 的联合分布为 $p(x,y)$ ，边缘分布分别为 $p(x),p(y)$ ，互信息 $I(X;Y)$ 是联合分布

$p(x,y)$ 与边缘分布 $p(x),p(y)$ 的相对熵，即

$I(X;Y)=\sum_{y\in Y}\sum_{x\in X}p(x,y)log\frac{p(x\mid y)}{p(x)p(y)}$

禾斗-匕匕发布了3 篇原创文章 · 获赞 1 · 访问量 4900 私信关注

标签：信息量,互信息,最大值,信道容量,信道,分布
来源： https://blog.csdn.net/weixin_40429889/article/details/103985593