其他分享
首页 > 其他分享> > pytorch RNN训练结果出现nan

pytorch RNN训练结果出现nan

作者:互联网

我是通过打断点判断出来的。

(1)利用torch.any(torch.isnan(input))判断自己所有的输入是否有问题(我发现我的输入tensor中有一维的特征有nan,是因为最大最小值归一化的时候,max和min是同一个数,造成除数为0,结果产生了nan,LSTM、GRU学出来的全是nan)

(2)输出网络中每一层的输出,看看nan是哪里产生的(我是在输入和LSTM/GRU单元部分产生的)

(3)找到nan的原因,解决掉nan

标签:输出,GRU,RNN,torch,nan,pytorch,LSTM,输入
来源: https://blog.csdn.net/Shenquanle/article/details/120587728