其他分享
首页 > 其他分享> > 神经网络参数初始化参数固定

神经网络参数初始化参数固定

作者:互联网

一般来说,神经网络模型实验重复多次,但最终结果仍然有较大波动时,应该从三个方面结果:种子、初始点、优化器。

其中种子的固定尤为关键,应在代码中加入下列种子固定代码

def setup_seed(seed):
    random.seed(seed)
    np.random.seed(seed)
    torch.manual_seed(seed)
    torch.cuda.manual_seed_all(seed)
    torch.backends.cudnn.deterministic = True
    torch.backends.cudnn.benchmark = False
    dgl.seed(seed)
setup_seed(seed)

标签:初始化,random,backends,torch,manual,cudnn,神经网络,seed,参数
来源: https://blog.csdn.net/yimenren/article/details/123600534