ai-blog
入门← 返回知识库

期望（Expected Value）

随机变量的加权平均值，权重为各取值的概率。E[X] = Σx·P(x)。注意期望不是"最可能的值"——骰子期望 3.5，但你永远掷不出 3.5。它描述的是"重复无穷多次后的长期平均"。

核心公式

📖 符号说明

符号含义说明取值范围
期望也记作 μ 或 \bar{X}(-∞, +∞)
第 i 个取值随机变量的可能值—
取值概率取到 xᵢ 的概率[0,1]

🔢 分步计算

  1. 1

    每个取值乘以其概率（加权）

  2. 2

    对所有可能取值求和

前置知识

random-variablesigma-summation

一句话理解

期望 = 每个可能结果 × 它出现的概率，然后全部加起来。不是"最可能的值"，而是"长期平均值"。

公式

离散型：

E[X]=∑ixi⋅P(X=xi)E[X] = \sum_{i} x_i \cdot P(X = x_i)E[X]=i∑​xi​⋅P(X=xi​)

连续型：

E[X]=∫−∞+∞x⋅f(x) dxE[X] = \int_{-\infty}^{+\infty} x \cdot f(x) \, dxE[X]=∫−∞+∞​x⋅f(x)dx

骰子的期望

E[X]=1×16+2×16+⋯+6×16=216=3.5E[X] = 1 \times \frac{1}{6} + 2 \times \frac{1}{6} + \cdots + 6 \times \frac{1}{6} = \frac{21}{6} = 3.5E[X]=1×61​+2×61​+⋯+6×61​=621​=3.5

你永远掷不出 3.5——但掷 6000 次，总点数大约是 21000，平均每次 3.5。

期望 ≠ 最可能的值

彩票例子：花 10 元买彩票，千分之一概率中 5000 元。

E=5000×0.001+0×0.999−10=−5 元E = 5000 \times 0.001 + 0 \times 0.999 - 10 = -5 \text{ 元}E=5000×0.001+0×0.999−10=−5 元

期望亏 5 元。但你不会每次恰好亏 5 块——要么亏 10（大多数时候），要么赚 4990（千分之一）。期望说的是：买 1000 张，总共大约亏 5000 元。

WARNING

常见误区 "期望是 3.5"不意味着结果在 3.5 附近——骰子只会出 1-6 的整数。 "期望是 -5"不意味着你每次亏 5 块——你要么亏 10 要么赚 4990。 期望描述的是大量重复后的平均趋势，不是单次的预测。

核心性质

  • 线性性：E[aX+b]=aE[X]+bE[aX + b] = aE[X] + bE[aX+b]=aE[X]+b
  • 独立变量之和：E[X+Y]=E[X]+E[Y]E[X + Y] = E[X] + E[Y]E[X+Y]=E[X]+E[Y]（即使不独立也成立）

在 AI 中的应用

  • 交叉熵损失：H(p,q)=Ep[−log⁡q(x)]=−∑p(x)log⁡q(x)H(p,q) = E_p[-\log q(x)] = -\sum p(x) \log q(x)H(p,q)=Ep​[−logq(x)]=−∑p(x)logq(x)，本质是"负对数概率的期望"
  • 风险最小化：训练目标 = 最小化损失函数在数据分布上的期望
  • 强化学习：策略的价值 = 累积奖励的期望

引用本概念的文章