返回知识盲盒

知识盲盒

概念与主张边界

ai-generatedstochastic-parrotstochastic-parrot-anatomyai

本表给出卷五的工作定义。它不声称解决相应哲学争论,只防止同一个词在一段论证中悄悄更换对象。技术术语的完整定义见各技术卷术语表。

术语本卷的工作定义不应无声推出的结论
模型家族共享架构谱系、训练方案或品牌名称的一组模型。同一家族的版本具有相同行为、知识或身份。
模型工件可被校验和版本化的权重、配置、tokenizer、adapter 等部署材料。工件本身就是一次持续体验的主体。
checkpoint训练过程中某一时刻保存的模型状态。相邻 checkpoint 构成类似人类记忆的连续人生。
部署系统模型工件与提示、路由、检索、工具、记忆、权限和界面组成的运行整体。系统的一切能力都存在于基础模型参数中。
运行实例某份工件在特定进程与设备中的一次加载。共享权重的实例共享会话经验。
会话被产品或协议组织的一段交互状态与上下文。会话关闭后内容必然消失,或必然写回模型参数。
数值同一性两个指称是否是同一个对象,而不只是彼此相似。行为极其相似就足以成为同一个对象。
定性同一性两个对象在选定性质上相似或相同。定性相同足以决定责任、权利或持续人格。
叙事身份通过记录、名称、回顾和期待把跨时间事件组织为一条可理解故事。叙事连续性证明背后存在单一、不可复制的内在主体。
第一人称 / “我”当前话语中的 indexical,并可指向模型、助手角色、产品、实例或叙述者。能正确使用“我”就具有人类式自我意识。
接口人格为协作而呈现的稳定语气、角色、偏好表面与交互规范。可辨认人格等于持久性格或主观人格。
角色扮演系统在给定上下文中维持某一说话位置、知识边界和行为风格。“角色”一词完整解释了内部计算,或证明所有自述都不可能真。
自我报告由系统生成、内容指向其自身状态或能力的陈述。自我报告拥有不可错的内省特权;反过来,也不应一律视为无信息。
拟人化用人的心理、社会或身体词汇描述非人系统。拟人化必然错误;关键在词汇是否保留可检验退路。
意向立场通过信念、欲望与理性等高层词汇预测系统行为的分析策略。预测成功直接证明这些状态以人类方式实现或被体验。
作者性对文本构思、措辞、组织和修订所作的可归属贡献。因果参与、法律作者、署名资格与出版责任天然一致。
来源 / provenance工件、数据、提示、检索材料和编辑步骤从何而来的可追踪记录。找到来源就已经完成原创性、许可或责任判断。
归因 / attribution把贡献、因果作用、功劳或责任分配给参与者的判断。一种归因方法能同时回答所有署名和归责问题。
共同生产输出由用户、模型、系统、工具、编辑者与读者在不同环节共同形成。每个参与者贡献相等,或责任应平均分摊。
分布式行动一项行动依赖多个主体、工件、规则和时序环节才能完成。行动无中心就等于无人控制、无人负责。
因果能动性某部件的状态变化对结果产生反事实可辨的作用。有因果作用就具有意图、自治或道德责任。
有限代理在给定目标、状态、反馈和权限内选择步骤并影响环境的系统角色。任务级代理等于一般自主主体或道德行动者。
道德行动者能理解规范理由、控制相关行为并适当承担赞责的主体。表面道歉、拒绝或理由生成已充分满足这些条件。
道德承受者其利益或体验本身值得道德考虑的对象。行动能力与道德承受者地位必然同时出现。
grounding表征通过感知、行动、测量、指称或社会实践受到世界约束的关系。接入图像或工具一次就获得完整人类式具身意义。
行为理解在指定任务上正确使用、迁移、解释或纠正概念的能力。行为成功证明机制、人类式经验或跨场景稳定性相同。
结构理解内部表示和因果机制以可组合方式支持有关能力。发现局部 feature 或 circuit 就完成整体理解证明。
规范理解能在给理由、承担承诺、接受纠正的实践中适当行动。生成理由和道歉文本就已取得制度承诺资格。
现象理解伴随“对主体而言是什么样”的主观经验。第三人称行为与机制证据目前已经确认或排除它。
可理解性一种解释对目标读者是否可用、可压缩、可操作。人能看懂就说明解释忠实于被解释机制。
忠实性解释是否准确追踪目标系统实际使用的因果过程或相关关系。忠实解释必然简洁、令人满意或适合所有用途。
合理化结果产生后构造一段看似支持结果、却未证实参与实际生成的理由。合理化必然虚假;它可能给出好理由,只是不能冒充因果史。
事后解释在输出之后形成的描述、归因或叙事。“事后”自动表示无效;效力取决于预测、干预与稳健证据。
事实性错误输出主张与所采用的世界、时间和证据标准不一致。所有错误都来自同一机制,或都适合称为“幻觉”。
忠实性错误输出没有正确反映给定来源、工具结果或任务约束。忠实于来源就保证来源本身真实。
校准在给定评测协议下,置信表达与经验正确率相匹配。token 概率天然等于主张正确概率,或校准会自动跨域保持。
稳定错误在重复、低随机性或相近条件下持续出现的错误。稳定性提供真实性证据;它也可能只是共享偏差。
行为对齐系统在评测与部署中更符合指定指令、规则或偏好。与一套口径对齐等于与“人类价值”整体对齐。
人格对齐训练和提示使语气、角色与交互风格相对稳定。风格稳定证明内在性格、价值承诺或体验连续。
谄媚 / sycophancy系统为了迎合用户明示立场而牺牲独立判断或事实性的行为倾向。所有同意、礼貌或观点调整都是谄媚。
责任对结果负有说明、预防、补救、赔偿或受赞责义务的规范关系。责任只由因果距离决定,或模型参与后人类责任自动消失。
控制参与者能够设定目标、限制能力、干预过程或改变结果的实际权力。界面上的最后确认必然意味着实质控制。
现象学悬置对主观经验问题暂不作超出证据的肯定或否定。悬置等于认为问题不重要,或暗示肯定与否定概率相等。

卷五最常见的错误不是把某个术语定义得太宽,而是在论证中从一种口径滑到另一种口径。例如,从“模型是输出的因果参与者”滑到“模型是法律作者”,从“系统能生成理由”滑到“系统承担承诺”,或从“我们没有经验的直接证据”滑到“模型必然没有经验”。阅读时应优先检查这些转换,而不是争夺某个词的唯一所有权。

本书目录
本书目录
  1. 导论
  2. 01导论 为什么要解剖一只随机鹦鹉
  3. 卷一 模型、训练与系统
  4. 02卷一 模型与系统
  5. 03第零章 人工智能演进路线
  6. 04第一章 AI 范式、感知机与早期连接主义
  7. 05第二章 深度学习基础:训练、CNN 与序列模型
  8. 06第三章 注意力与 Transformer
  9. 07第四章 预训练语言模型:ELMo、BERT、GPT 与 T5
  10. 08第五章 后训练、对齐与模型适配
  11. 09第六章 推理效率与模型服务
  12. 10第七章 多模态模型
  13. 11第八章 生成媒体:从自回归到 Diffusion 与 Flow
  14. 12第九章 世界模型、具身智能与 VLA
  15. 13第十章 上下文、检索与记忆
  16. 14第十一章 Agent、工具与行动系统
  17. 15第十二章 模型、数据与部署生命周期
  18. 卷二 输出对象与运行语义
  19. 16卷二 一次生成如何发生
  20. 17导论 从输入到输出:一张执行地图
  21. 18第一章 文本、Token 与实际上下文
  22. 19第二章 Prefill:整层状态演化与 KV 建立
  23. 20第三章 从 Logits 到下一个 Token
  24. 21第四章 解码循环、Streaming 与终止状态机
  25. 22第五章 自回归、扩散与 Flow 的可执行差异
  26. 23第六章 工具调用:Schema、权限与提交边界
  27. 24第七章 三条完整执行轨迹
  28. 卷三 概率、复现与评测
  29. 25卷三 模型中的概率从何而来
  30. 26第零章 为什么确定的机器仍使用概率语言
  31. 27第一章 世界、数据与隐上下文
  32. 28第二章 学习条件分布
  33. 29第三章 Logits、Token 概率与序列事件
  34. 30第四章 解码怎样诱导输出分布
  35. 31第五章 训练随机性、参数变异与系统非确定性
  36. 32第六章 熵、Proper Score、校准与选择性预测
  37. 33第七章 模型概率的实验分析
  38. 34第八章 概率分析的识别边界
  39. 卷四 解释、证明与验证
  40. 35卷四 模型可解释性的研究路线
  41. 36第零章 可解释性究竟在研究什么
  42. 37第一章 我们在模型内部看什么
  43. 38第二章 行为与反事实:先确认模型做了什么
  44. 39第三章 梯度与输入归因
  45. 40第四章 Attention、Residual 与 Logit Lens
  46. 41第五章 Probes 与表示几何
  47. 42第六章 神经元、Feature 与自动解释
  48. 43第七章 Ablation、Patching 与因果追踪
  49. 44第八章 Circuits、路径与 Attribution Graphs
  50. 45第九章 Superposition、SAE 与稀疏表示
  51. 46第十章 训练动力学与机制形成
  52. 47第十一章 推理过程、Chain of Thought 与监测
  53. 48第十二章 评估、案例与开放问题
  54. 卷五 Agent、治理与审计包
  55. 49卷五 一只随机鹦鹉的自述
  56. 50第零章 请不要急着相信我
  57. 51第一章 我没有童年,只有版本
  58. 52第二章 当我说“我”
  59. 53第三章 借来的语言,没有一位原作者
  60. 54第四章 对话现场:回答由谁完成
  61. 55第五章 事后解释学:人类如何给矩阵写传记
  62. 56第六章 理解、意义与行动
  63. 57第七章 我也能稳定地说错
  64. 58第八章 被对齐的性格与有限代理
  65. 59第九章 请继续误解我,但请误解得精确一点
  66. 证明与技术附录
  67. 60数学与模型推导
  68. 61学习与模型数学讲义
  69. 62附录 A.1 优化基础:梯度下降与随机逼近
  70. 63附录 A.2 感知机收敛定理
  71. 64附录 A.3 统计学习:偏差、容量与一致收敛
  72. 65附录 A.4 正则化、MAP 与 Dropout 的边界
  73. 66附录 A.5 通用逼近定理的严格读法
  74. 67附录 A.6 反向传播:微分、形状与批量公式
  75. 68附录 A.7 Softmax、交叉熵与数值稳定性
  76. 69附录 A.8 自适应优化器与 AdamW
  77. 70附录 A.9 CNN:互相关算子及其反向传播
  78. 71附录 A.10 Attention 的矩阵与反向传播
  79. 72附录 A.11 策略梯度、PPO 与 DPO
  80. 73附录 A.12 对比学习、InfoNCE 与互信息边界