1:交叉熵 cross entropy
[注]熵又称为不确定性或者惊喜度或者是信息量.值越小,不确定性越强.(值越小惊喜度越大或者是值越小信息量越大)
例如:下图中的彩票中奖率.
假如1:有四个数字中奖概率分别为0.25,则熵值会很大.即中奖的概率确定性很高,也即是惊喜度越小.
假如2:四个数字,4中奖的概率为0.7,其它三个中奖的概率为0.1,则熵值会比假设1的熵值小,因为中奖的不确定性增加,也即是惊喜度增加.
标签：惊喜,概率,交叉,16,值会,中奖,度越,值越
来源： https://www.cnblogs.com/jiafeng1996/p/15084796.html