https://blog.csdn.net/weixin_39994739/article/details/122864848
正则化
过拟合和欠拟合的区别？以及如何解决？解决办法有哪些？
过拟合（Overfitting）和欠拟合（Underfitting）是机器学习中两个常见的问题，它们分别描述了模型在训练数据上的表现。
1.过拟合（Overfitting）：
2.定义： 过拟合指的是模型在训练数据上表现很好，但在未见过的测试数据上表现较差的情况。模型过分地学习了训练数据中的噪声和细节，导致对新数据的泛化能力不足。
3.特征： 模型的复杂度较高，可能出现在模型参数数量过多或者训练数据过少的情况下。
4.欠拟合（Underfitting）：
5.定义： 欠拟合表示模型在训练数据和测试数据上都表现不佳，未能很好地捕捉到数据的特征和关系。通常是由于模型过于简单，无法适应数据的复杂性。
6.特征： 模型的复杂度较低，可能是因为模型选择不当或者训练不充分。
解决过拟合和欠拟合的方法：
7.过拟合的解决方法：
8.正则化（Regularization）： 添加正则化项，惩罚模型复杂度，防止过度拟合。
9.数据增强（Data Augmentation）： 扩充训练数据集，通过对数据进行随机变换（旋转、缩放、翻转等），增加模型的泛化能力。
10.早停（Early Stopping）： 在训练过程中，当验证集上的性能不再提升时停止训练，以防止过度拟合。
11.降低模型复杂度： 减少模型的层数、节点数或使用更简单的模型结构。
12.欠拟合的解决方法：
13.增加模型复杂度： 增加模型的层数、节点数，或选择更复杂的模型结构，以提高模型的拟合能力。
14.特征工程： 添加更多的特征，或通过特征组合来增加模型对数据的表达能力。
15.增加训练数据： 收集更多的训练数据，以更好地捕捉数据的潜在模式。
在实际应用中，通常需要综合考虑这些方法，根据具体问题选择合适的方法或它们的组合。