泛化

直觉理解#

融会贯通的考生：练习题会做，考试也会做。他不是在背答案，而是理解了解题方法。

泛化就是模型的这种能力——不仅在训练数据上表现好，面对从未见过的新数据也能做出准确预测。

泛化 vs 过拟合 vs 欠拟合#

• 泛化好：训练损失低，验证损失也低——模型学到了真正的规律
• 过拟合：训练损失低，验证损失高——模型在"背答案"
• 欠拟合：训练损失高，验证损失也高——模型还没学够

泛化是训练的终极目标。所有的对策（early stopping、正则化、dropout）都是为了让模型从"背答案"转向"学方法"，提升泛化能力。

如何衡量#

用模型没见过的验证集（或测试集）来评估。如果验证损失和训练损失接近且都较低，说明模型泛化能力好。