NLP(自然语言处理)

自然语言处理(Natural Language Processing)的缩写,研究计算机如何理解、生成和处理人类语言的AI子领域。涵盖文本分类、机器翻译、问答、摘要、对话等任务,是大语言模型的核心应用领域。

NLP(自然语言处理)

一句话理解

NLP 是 AI 的一个子领域,研究如何让计算机理解和生成人类语言

核心任务

任务说明示例
文本分类判断文本属于哪个类别垃圾邮件检测、情感分析
机器翻译一种语言转另一种语言Google Translate
命名实体识别识别文本中的人名、地名等"苹果公司"是组织名
问答系统根据上下文回答问题阅读理解、知识问答
文本生成根据条件生成文本写文章、对话、代码
文本摘要将长文本压缩为摘要新闻摘要生成

技术演进

NLP 的发展可以粗略分为四个阶段:

  1. 规则阶段(~2000s):手写语法规则和词典,人工定义特征
  2. 统计学习阶段(2000s-2013):用机器学习模型(SVM、CRF 等)从数据中学习,但仍需手工设计特征
  3. 深度学习阶段(2013-2017):RNN/LSTM/CNN 自动学习特征表示,端到端训练
  4. 大模型阶段(2017-至今):Transformer 架构统一了 NLP 各个任务,预训练+微调成为主流范式,GPT/BERT 开启了 LLM 时代

与 LLM 的关系

大语言模型(LLM)本质上是 NLP 技术的集大成者——一个模型通过大规模预训练,可以同时处理上述几乎所有 NLP 任务,不再需要为每个任务单独训练模型。

引用本术语的文章