【深度学习入门到精通系列】特别正经的合理调参介绍～❤️

文章目录

• 1 建议优先在对数尺度上进行超参数搜索
• 2 选择合适的Epoch训练次数
• 3 调节Regularization parameter lambda
• 4 调节mini-batch size
• 5 如何选择梯度下降算法
• 6 如何选择激励函数
• 7 如何设置Weights和biases
• 8 选择何种Regularization
• 9 是否使用dropout
• 10 训练集多大比较合适
• 11 Loss函数选择
• 12 神经元的个数
• 13 自己模型的超参数
• 14 题外话

在训练神经网络的时候，需要调的参数很多，选一组最适合自己模型的参数。实际训练的时候如果不按照一定的顺序，会很乱。因此正确有序地调参很重要，需要调节的参数大概有如下几个：

神经网络的层数
每层神经元的个数
如何初始化Weights和biases
l

标签：Regularization,正经,入门,训练,调参,选择,参数,biases,Weights
来源： https://blog.51cto.com/u_14013325/2890581