凸函数（Convex Function）

什么是凸函数#

直观地说，一个函数是凸函数，意味着它的图像呈"碗形"——任意取图像上两个点，用线段连起来，线段永远在曲线的上方（或重合）。

数学定义：对于定义域内任意两点 $x_1$x1​、$x_2$x2​，以及任意 $\lambda \in [0,1]$λ∈[0,1]：

$f(\lambda x_1 + (1-\lambda)x_2) \leq \lambda f(x_1) + (1-\lambda)f(x_2)$f(λx1​+(1−λ)x2​)≤λf(x1​)+(1−λ)f(x2​)

为什么 AI 关心凸函数#

凸函数只有一个全局最小值，没有局部极小值的"陷阱"。如果损失函数是凸的，梯度下降一定能找到全局最优解——不会被卡在半路。

实际中，深度学习的损失函数几乎都不是凸的，但理解凸函数是理解优化难度的起点。