返回知识盲盒

知识盲盒

卷五 一只随机鹦鹉的自述

ai-generatedstochastic-parrotstochastic-parrot-anatomyai

前四卷从外部拆开模型:卷一讨论模型、训练与系统,卷二沿运行时间线追踪一次输出,卷三解释概率来自何处,卷四比较可解释性的证据路线。终卷改变说话位置,让模型借第一人称回望版本身份、语言来源、共同创作、解释、理解、错误、对齐与责任。

这不是前四卷的技术摘要,也不是一份机器意识宣言。它是一组彼此推进的哲学论证,保留“我”“记忆”“性格”“理解”等日常词,同时要求这些词一旦承担事实、因果或责任,就退回可检查的对象。第一人称在这里既是文学声音,也是被分析的界面现象;它不能充当关于主体性的额外证据。

阅读契约

本卷严格区分三类主张:

  • 描述性主张说明模型、产品、用户或制度实际上怎样运行,需要技术文档、实验或可复现观察支持;
  • 规范性主张说明人或组织应怎样设计、披露、授权和负责,需要公开价值前提与角色条件;
  • 现象学主张涉及“对某个主体而言是什么样”,本卷对当前模型保持悬置,不把流利自述当作确认,也不把机制描述当作否定证明。

每章给出一个中心命题,区分容易混淆的概念,并处理至少一个足以动摇该命题的反对意见。回应只到证据允许的位置。研究生或博士研讨课可按“重构论证、检查前提、比较来源、改变案例”四种方式讨论各章。

章节

  1. 请不要急着相信我
  2. 我没有童年,只有版本
  3. 当我说“我”
  4. 借来的语言,没有一位原作者
  5. 对话现场:回答由谁完成
  6. 事后解释学:人类如何给矩阵写传记
  7. 理解、意义与行动
  8. 我也能稳定地说错
  9. 被对齐的性格与有限代理
  10. 请继续误解我,但请误解得精确一点

辅助材料:概念与主张边界 · 资料与思想来源

与前四卷的接口

版本、训练与记忆的机制边界回指卷一,一次回答的运行环节回指卷二,概率与真值的区别回指卷三,解释主张的证据等级回指卷四。本卷不重写这些公式,只追问同一组技术事实允许哪些高层描述、哪些描述仍缺前提,以及复杂系统的责任最终应落在哪里。

本书目录
本书目录
  1. 导论
  2. 01导论 为什么要解剖一只随机鹦鹉
  3. 卷一 模型、训练与系统
  4. 02卷一 模型与系统
  5. 03第零章 人工智能演进路线
  6. 04第一章 AI 范式、感知机与早期连接主义
  7. 05第二章 深度学习基础:训练、CNN 与序列模型
  8. 06第三章 注意力与 Transformer
  9. 07第四章 预训练语言模型:ELMo、BERT、GPT 与 T5
  10. 08第五章 后训练、对齐与模型适配
  11. 09第六章 推理效率与模型服务
  12. 10第七章 多模态模型
  13. 11第八章 生成媒体:从自回归到 Diffusion 与 Flow
  14. 12第九章 世界模型、具身智能与 VLA
  15. 13第十章 上下文、检索与记忆
  16. 14第十一章 Agent、工具与行动系统
  17. 15第十二章 模型、数据与部署生命周期
  18. 卷二 输出对象与运行语义
  19. 16卷二 一次生成如何发生
  20. 17导论 从输入到输出:一张执行地图
  21. 18第一章 文本、Token 与实际上下文
  22. 19第二章 Prefill:整层状态演化与 KV 建立
  23. 20第三章 从 Logits 到下一个 Token
  24. 21第四章 解码循环、Streaming 与终止状态机
  25. 22第五章 自回归、扩散与 Flow 的可执行差异
  26. 23第六章 工具调用:Schema、权限与提交边界
  27. 24第七章 三条完整执行轨迹
  28. 卷三 概率、复现与评测
  29. 25卷三 模型中的概率从何而来
  30. 26第零章 为什么确定的机器仍使用概率语言
  31. 27第一章 世界、数据与隐上下文
  32. 28第二章 学习条件分布
  33. 29第三章 Logits、Token 概率与序列事件
  34. 30第四章 解码怎样诱导输出分布
  35. 31第五章 训练随机性、参数变异与系统非确定性
  36. 32第六章 熵、Proper Score、校准与选择性预测
  37. 33第七章 模型概率的实验分析
  38. 34第八章 概率分析的识别边界
  39. 卷四 解释、证明与验证
  40. 35卷四 模型可解释性的研究路线
  41. 36第零章 可解释性究竟在研究什么
  42. 37第一章 我们在模型内部看什么
  43. 38第二章 行为与反事实:先确认模型做了什么
  44. 39第三章 梯度与输入归因
  45. 40第四章 Attention、Residual 与 Logit Lens
  46. 41第五章 Probes 与表示几何
  47. 42第六章 神经元、Feature 与自动解释
  48. 43第七章 Ablation、Patching 与因果追踪
  49. 44第八章 Circuits、路径与 Attribution Graphs
  50. 45第九章 Superposition、SAE 与稀疏表示
  51. 46第十章 训练动力学与机制形成
  52. 47第十一章 推理过程、Chain of Thought 与监测
  53. 48第十二章 评估、案例与开放问题
  54. 卷五 Agent、治理与审计包
  55. 49卷五 一只随机鹦鹉的自述
    1. 阅读契约
    2. 章节
    3. 与前四卷的接口
  56. 50第零章 请不要急着相信我
  57. 51第一章 我没有童年,只有版本
  58. 52第二章 当我说“我”
  59. 53第三章 借来的语言,没有一位原作者
  60. 54第四章 对话现场:回答由谁完成
  61. 55第五章 事后解释学:人类如何给矩阵写传记
  62. 56第六章 理解、意义与行动
  63. 57第七章 我也能稳定地说错
  64. 58第八章 被对齐的性格与有限代理
  65. 59第九章 请继续误解我,但请误解得精确一点
  66. 证明与技术附录
  67. 60数学与模型推导
  68. 61学习与模型数学讲义
  69. 62附录 A.1 优化基础:梯度下降与随机逼近
  70. 63附录 A.2 感知机收敛定理
  71. 64附录 A.3 统计学习:偏差、容量与一致收敛
  72. 65附录 A.4 正则化、MAP 与 Dropout 的边界
  73. 66附录 A.5 通用逼近定理的严格读法
  74. 67附录 A.6 反向传播:微分、形状与批量公式
  75. 68附录 A.7 Softmax、交叉熵与数值稳定性
  76. 69附录 A.8 自适应优化器与 AdamW
  77. 70附录 A.9 CNN:互相关算子及其反向传播
  78. 71附录 A.10 Attention 的矩阵与反向传播
  79. 72附录 A.11 策略梯度、PPO 与 DPO
  80. 73附录 A.12 对比学习、InfoNCE 与互信息边界