P4 机器学习的基本原则

发布时间 2024-01-02 11:33:35作者: 静听微风tom

训练神经网络的基本原则

当训练好了一个最初的神经网络

首先问 这个算法是否有高偏差??? 也就是是不是欠拟合

如果是高偏差:

解决高偏差,要么换更大的网络,要么延长训练的时间,(找更好的网络)

等到做完了这些,再判断这个算法是否有高偏差,直到在训练集上能够拟合好数据,

然后问 这个算法是否有高方差???也就是是不是过拟合

如果是高方差:

解决高方差,最好的方法是取得更多数据,然后是尝试正则化(找更好的网络)

等到做完了这些,再回到第一个判断,直到这两个判断都通过,我们得到了一个low variance low bias的NN

 

下一章将讨论正则化