深度学习

机器学习的分支,通过多层神经网络自动从数据中学习特征表示。"深度"指网络层数多,使模型能逐层提取从简单到复杂的特征,是当前 AI 技术的核心驱动力。

一句话理解

深度学习 = 很多层的神经网络 + 海量数据 + 强大算力。它让机器自己学会"看懂图片""听懂语音""理解文字"。

与传统机器学习的区别

传统机器学习需要人工设计特征(Feature Engineering):比如识别猫,你得告诉机器"先检测边缘、再检测纹理、再检测轮廓"。

深度学习跳过了这一步——直接把原始像素丢进多层网络,让它自己学出有用的特征。层数越多,提取的特征越抽象:

层级学到的特征类比
浅层边缘、颜色笔画
中层纹理、局部形状部首
深层物体部件偏旁组合
输出层完整语义整个字

"深度"的含义

"深度"指的是网络的层数。早期神经网络通常只有 1-2 个隐藏层(浅层网络),而现代深度学习模型可以有数十到数百层(如 ResNet-152 有 152 层),GPT 系列则有近百层 Transformer 块。

NOTE

为什么以前不能"深"? 深层网络面临梯度消失/爆炸、过拟合、算力不足三大障碍。突破来自:

  • ReLU 激活函数(2010s)——缓解梯度消失
  • BatchNorm / ResNet 残差连接(2015)——让梯度畅通流动
  • GPU 并行计算 + 大规模数据集——提供充足的算力和数据

深度学习的主要架构

架构代表模型擅长领域
CNN(卷积神经网络)ResNet, EfficientNet图像识别、视觉任务
RNN/LSTMSeq2Seq序列数据(已逐步被取代)
TransformerGPT, BERT, ViTNLP、多模态、几乎所有领域
GANStyleGAN图像生成
DiffusionStable Diffusion, DALL·E图像/视频生成

深度学习与 AI 的关系

人工智能机器学习深度学习\text{人工智能} \supset \text{机器学习} \supset \text{深度学习}人工智能机器学习深度学习

深度学习是机器学习的子集,而机器学习是人工智能的子集。当前 AI 的绝大多数突破(大语言模型、图像生成、语音识别)都建立在深度学习之上。

引用本术语的文章