损失函数（Loss Function）

一句话理解#

损失函数把"有多差"变成一个数字——越小越好，为零就是完美。

直觉理解#

猜数字游戏：答案是 3，你猜了 5，偏差是 $5-3=2$5−3=2。但偏差可能是正的也可能是负的（猜 1 时偏差是 $-2$−2），正负混在一起不好比较。

解决办法——平方，跟算方差时消负号的思路一样：

$L(x) = (x - 3)^2$L(x)=(x−3)2

$x$x 是猜测值，3 是目标值，$L(x)$L(x) 是损失。

试几个值#

• 猜 $x=5$x=5：$L(5)=(5-3)^2=4$L(5)=(5−3)2=4
• 猜 $x=1$x=1：$L(1)=(1-3)^2=4$L(1)=(1−3)2=4
• 猜 $x=3$x=3：$L(3)=(3-3)^2=0$L(3)=(3−3)2=0

猜得越准，损失越小；猜中了，损失为零。

海拔比喻#

想象一座山——损失函数就是山的海拔。海拔越高，说明你离谷底越远；海拔为零，你到了谷底。训练的目标就是找到让 $L(x)$L(x) 最小的那个 $x$x。

这在机器学习中用来做什么#

损失函数衡量模型预测与真实值的差距，是训练算法的出发点——所有优化都从"先算出当前有多差"开始。