首页 > 其他分享> > 交叉损失熵函数【学习笔记】

交叉损失熵函数【学习笔记】

2022-01-28 17:05:16 作者：互联网

交叉损失熵函数的表达式为：

$loss(x,class) = -log(\frac{exp(x[class])}{\sum exp(x[j])})=-x[class]+log(\sum exp(x[j]))$

假设一个三分类问题，该问题的标签为：

Person	Dog	Cat
0	1	2

将一张狗的图片输入神经网络，得到输出[0.1,0.6,0.3]

则有：

$Loss(x,class) = -0.6+log_{e}(exp(0.1)+exp(0.6)+exp(0.3))$

我们编程来验证一下：

import torch
from torch.nn import CrossEntropyLoss

x = torch.tensor([0.1,0.6,0.3])
y = torch.tensor([1])
x = torch.reshape(x,(1,3))
loss_cross = CrossEntropyLoss()
result_cross = loss_cross(x,y)
print(result_cross)

工作台输出为：

tensor(0.8533)

计算器输出为：

标签：tensor,交叉,0.1,0.3,torch,cross,笔记,0.6,函数
来源： https://blog.csdn.net/weixin_40692714/article/details/122733408