Glossary
术语词库
技术术语速查词库。在文章中遇到术语时，悬停即可看到释义，也可在这里集中浏览。
Word2Vec
Word2Vecword2vecWord2vec词向量模型2013年由Google提出的词嵌入模型，首次大规模证明了"词可以变成向量且语义关系可以通过向量运算表达"。经典案例：king - man + woman ≈ queen。是现代Embedding技术的先驱。
→向量（Vector）
向量Vectorvector矢量同时具有大小和方向的数学对象，用一组有序数字表示。比如"向东 300 米、向北 400 米"写成 $(300, 400)$，既说明了走多远，又说明了往哪走。在机器学习中，文字、图片等数据都会被转化为向量来计算。
→RAG（检索增强生成）
RAGrag检索增强生成Retrieval-Augmented Generation检索增强生成（Retrieval-Augmented Generation）的缩写。通过先检索外部知识库中的相关文档，再将其作为上下文输入大模型来生成回答，解决LLM知识过时和幻觉问题。
→NLP（自然语言处理）
NLP自然语言处理Natural Language Processingnlp自然语言处理（Natural Language Processing）的缩写，研究计算机如何理解、生成和处理人类语言的AI子领域。涵盖文本分类、机器翻译、问答、摘要、对话等任务，是大语言模型的核心应用领域。
→Seq2Seq（序列到序列）
Seq2Seqseq2seqSequence to Sequence序列到序列一种将输入序列转换为输出序列的神经网络架构，由Encoder（编码输入）和Decoder（生成输出）两部分组成。最初用于机器翻译，是Transformer出现之前序列任务的主流方案。
→Embedding（嵌入/向量化）
Embeddingembedding嵌入词嵌入将离散的符号（如单词、token）映射为连续的高维向量的技术。嵌入向量捕捉语义关系——含义相近的词在向量空间中距离更近。是所有神经网络处理文本的第一步。
→RNN / LSTM（循环神经网络）
RNNLSTM循环神经网络rnn一类按时间步顺序处理序列数据的神经网络。每个时间步的输出依赖前一步的隐藏状态，天然适合序列建模但无法并行计算。LSTM和GRU是其改进变体，用门控机制缓解梯度消失问题。
→Encoder-Decoder（编码器-解码器）
Encoder-Decoder编码器-解码器EncoderDecoder一种序列到序列的神经网络架构模式。Encoder将输入压缩为中间表示，Decoder基于该表示生成输出。原始Transformer采用此结构，后来分化为Encoder-only(BERT)和Decoder-only(GPT)两条路线。
→位置编码（Positional Encoding）
Positional Encoding位置编码positional encoding位置嵌入为Transformer注入序列顺序信息的机制。由于注意力机制本身是顺序无关的，位置编码通过给每个位置添加独特向量来区分token的先后关系。常见方案包括正弦编码和旋转位置编码(RoPE)。
→Token / Tokenization（分词）
TokenTokenizationtoken分词将文本拆分为模型可处理的最小单元（token）的过程。一个token可以是一个词、一个子词片段或一个字符。GPT系列使用BPE算法，中文通常一个字对应1-2个token。
→Transformer
TransformertransformerTransformerstransformer架构2017年由Google提出的神经网络架构，完全基于注意力机制，抛弃了RNN的循环结构。凭借并行计算能力和对长距离依赖的高效建模，成为GPT、BERT等所有现代大语言模型的基础架构。
→requestAnimationFrame
requestAnimationFramerAFwindow.requestAnimationFramecancelAnimationFrame浏览器提供的动画调度 API，回调在下一次渲染前执行。与 setTimeout 不同，它与显示器刷新率同步（通常 60fps），是实现流畅动画的标准方式。
→