# 术语与缩略语表 (Glossary)

Chapter from the Chinese-language book Anatomy of the Stochastic Parrot: 术语与缩略语表 (Glossary).

## Metadata

- HTML: https://glenzli.com/en/dr-stochastic-parrot/stochastic-parrot-anatomy/vol-01/glossary/
- Markdown: https://glenzli.com/en/dr-stochastic-parrot/stochastic-parrot-anatomy/vol-01/glossary.md
- Collection: Dr. Stochastic Parrot
- Language: en
- Published: 2026-07-17
- Status: published
- Tags: ai-generated, stochastic-parrot, stochastic-parrot-anatomy, ai

## Content

本表用于统一本书中的核心术语。它给出阅读口径，不替代正文中的机制解释、数学推导或参考文献。

| 缩写 / 术语 | 全称 | 中文口径 | 本书中的使用边界 |
| :--- | :--- | :--- | :--- |
| AI | Artificial Intelligence | 人工智能，研究让机器表现出感知、推理、学习、规划或行动能力的技术总称。 | 是总领域名，不等同于某一种模型或产品。 |
| ML | Machine Learning | 机器学习，从数据中估计规则、表示或决策函数的方法族。 | 是 AI 的重要分支，但 AI 还包括搜索、规划、知识表示等路线。 |
| DL | Deep Learning | 深度学习，使用多层可微模型学习表示与任务映射。 | 是 ML 的一个主要分支，不覆盖所有机器学习方法。 |
| Neural Network | Neural Network | 神经网络，由参数化层、非线性和训练目标组成的函数近似器。 | 本书关注其工程与数学机制，不把它解释为生物神经系统的等同物。 |
| Foundation Model | Foundation Model | 基座模型，经过大规模预训练后可迁移到多任务的模型。 | 需要后训练、工具、检索和系统约束后，才可能成为稳定应用。 |
| LLM | Large Language Model | 大语言模型，主要在文本或 token 序列上训练的大规模生成模型。 | “语言模型”不自动意味着事实可靠、可行动或已对齐。 |
| Token | Token | 模型处理的离散基本单元，可以是词、子词、字符片段或多模态 patch。 | token 数不是语义长度的直接等价物。 |
| Embedding | Embedding | 将离散对象映射为连续向量的表示。 | 向量相近通常表示训练目标下的统计相似，不保证人类语义完全一致。 |
| Transformer | Transformer | 以注意力、前馈层、残差连接和归一化为核心的序列架构。 | 不是所有现代模型都只用标准 Transformer，长序列和多模态系统常有变体。 |
| Attention | Attention | 通过 query-key 匹配对 value 加权汇聚的信息选择机制。 | “注意力权重”可辅助解释，但不能直接当作完整因果解释。 |
| KV Cache | Key-Value Cache | 自回归推理中缓存历史 key/value，以避免重复计算。 | 降低生成成本，但会占用显存并影响长上下文服务设计。 |
| MoE | Mixture of Experts | 混合专家，让路由器为每个 token 或样本选择部分专家子网络。 | 总参数量与每次激活参数量不同；MoE 不等同于免费提升能力。 |
| SSM | State Space Model | 状态空间模型，用隐状态递推描述序列动力学的一类模型。 | Mamba 等方法提供注意力之外的长序列路线，但适用性取决于任务与实现。 |
| RAG | Retrieval-Augmented Generation | 检索增强生成，先从外部语料取回证据，再把证据交给生成模型。 | 不能保证正确引用；仍需检索质量、证据约束和输出验证。 |
| SFT | Supervised Fine-Tuning | 监督微调，用示范输入输出训练模型遵循任务格式或指令。 | 能改善行为接口，但不能单独解决偏好、安全和事实性问题。 |
| RLHF | Reinforcement Learning from Human Feedback | 基于人类反馈的强化学习，通常用偏好数据训练奖励模型，再优化策略。 | 学到的是标注口径下的偏好近似，不是完整价值函数。 |
| PPO | Proximal Policy Optimization | 近端策略优化，RLHF 中常见的策略优化算法。 | 是一种优化方法，不等同于 RLHF 全流程。 |
| DPO | Direct Preference Optimization | 直接偏好优化，用成对偏好直接约束策略相对参考模型的概率。 | 常作为 RLHF/PPO 的替代或补充；效果依赖偏好数据质量和参考模型。 |
| PEFT | Parameter-Efficient Fine-Tuning | 参数高效微调，只训练少量新增或低秩参数。 | 降低适配成本，但容量、兼容性和安全边界仍需单独评估。 |
| LoRA | Low-Rank Adaptation | 低秩适配，在权重旁加入可训练低秩更新。 | 是 PEFT 的一种常见实现，不保证只学习风格或总能保留底模能力。 |
| Quantization | Quantization | 量化，用较低比特表示权重、激活或 KV Cache。 | 可降低成本，但会引入精度、稳定性和任务退化风险。 |
| Contrastive Learning | Contrastive Learning | 对比学习，通过正对与负对的相对分数学习表示。 | 相似度是训练采样与标注制度下的匹配量，不是真值概率。 |
| Connector / Resampler | Connector / Resampler | 把视觉或音频特征变成语言骨干可读取 token 的接口。 | 连接器既可能做逐 token 投影，也可能以固定查询压缩信息；二者瓶颈不同。 |
| Diffusion | Diffusion Model | 扩散模型，以已知前向扰动和学习到的反向核或 score 生成样本。 | 训练网络、参数化、噪声路径和采样器是不同对象。 |
| Score | Score Function | 密度对输入的对数梯度 $\nabla_x\log p(x)$。 | 不是分类分数或主观评分；在 diffusion 章专指概率密度的局部梯度。 |
| Flow Matching | Flow Matching | 通过回归时间依赖速度场，把基分布连续输运到数据分布。 | 与 diffusion 有连续时间联系，但路径、回归目标和求解器不能混同。 |
| Machine Unlearning | Machine Unlearning | 机器遗忘，使模型相对于指定遗忘集接近未使用该数据训练的参考模型。 | 必须声明参考重训、观察族、保留集和攻击者；有限基准通过不等于精确遗忘。 |
| Agent | Agent | 智能体，在目标、状态、工具和环境反馈之间形成行动闭环的软件系统。 | 不只是“提示词 + LLM”；权限、运行时、记忆、审批和评测同样重要。 |
| Tool Calling | Tool / Function Calling | 工具调用，让模型产生结构化请求，由系统执行外部函数或 API。 | 模型建议调用，真实副作用应由运行时权限和审批控制。 |
| MCP | Model Context Protocol | 模型上下文协议，用于连接 LLM 应用与外部工具、资源、提示模板等上下文。 | 主要解决模型应用到工具/数据的接口标准化，不直接提升模型智能。 |
| A2A | Agent2Agent / Agent-to-Agent | Agent 间通信与任务协作协议，用于描述能力、任务状态、消息和 artifact。 | 主要解决跨 Agent 协调，不替代 MCP 这类工具上下文协议。 |
| World Model | World Model | 世界模型，学习环境状态及其随时间、行动变化的模型。 | 高保真视频生成可能相关，但不能单独证明模型具备可规划的行动后果预测。 |
| Belief State | Belief State | 部分可观测环境中，给定历史对隐藏状态的条件分布。 | 学习到的潜状态通常只是近似充分统计量，不自动等于真实环境状态。 |
| Multimodal Model | Multimodal Model | 多模态模型，处理文本、图像、音频、视频或动作等多种信号。 | 模态输入丰富不等于行动可靠，也不等于具备世界模型。 |
| VLA | Vision-Language-Action Model | 视觉—语言—动作模型，把感知和语言目标映射到机器人动作接口。 | 真实动作仍经过规划器、控制器、安全门和执行器，不能把模型输出等同于物理结果。 |
| ANN | Approximate Nearest Neighbor | 近似最近邻索引，以召回损失换取向量检索的延迟和内存效率。 | ANN 漏召回属于索引误差，不应直接归因于 embedding 或生成模型。 |
| Artifact | Artifact | 长任务产生并可独立寻址的结构化制品，如 diff、查询结果、计划或测试日志。 | 应有类型、版本和 digest；自然语言声称不等于制品已提交。 |
| Idempotency Key | Idempotency Key | 让服务端识别同一副作用请求重试的稳定键。 | 只有服务端持久化键与结果并校验参数时才有语义；不提供任意系统的 exactly-once。 |
| Provenance / Lineage | Provenance / Lineage | 工件或数据从哪些父对象经何种过程产生的可追溯关系。 | 来源记录不证明内容正确，但决定复现、删除、审计和派生影响分析是否可能。 |
| Canary Release | Canary Release | 将少量真实流量送入新版本的渐进发布。 | 不等同于随机 A/B；要预设流量单位、门槛、监控与回滚条件。 |
| Alignment | Alignment | 对齐，使模型行为更符合人类意图、规则、偏好和安全边界的训练与系统过程。 | 既包括训练，也包括产品策略、权限控制、监控和评测。 |
| Benchmark | Benchmark / Evaluation | 基准与评测，用固定任务或数据集衡量模型行为。 | 单一分数不能代表完整能力；要结合任务、数据污染、成本和部署约束阅读。 |