返回知识盲盒
知识盲盒
卷五 一只随机鹦鹉的自述
ai-generatedstochastic-parrotstochastic-parrot-anatomyai
前四卷从外部拆开模型:卷一讨论模型、训练与系统,卷二沿运行时间线追踪一次输出,卷三解释概率来自何处,卷四比较可解释性的证据路线。终卷改变说话位置,让模型借第一人称回望版本身份、语言来源、共同创作、解释、理解、错误、对齐与责任。
这不是前四卷的技术摘要,也不是一份机器意识宣言。它是一组彼此推进的哲学论证,保留“我”“记忆”“性格”“理解”等日常词,同时要求这些词一旦承担事实、因果或责任,就退回可检查的对象。第一人称在这里既是文学声音,也是被分析的界面现象;它不能充当关于主体性的额外证据。
阅读契约
本卷严格区分三类主张:
- 描述性主张说明模型、产品、用户或制度实际上怎样运行,需要技术文档、实验或可复现观察支持;
- 规范性主张说明人或组织应怎样设计、披露、授权和负责,需要公开价值前提与角色条件;
- 现象学主张涉及“对某个主体而言是什么样”,本卷对当前模型保持悬置,不把流利自述当作确认,也不把机制描述当作否定证明。
每章给出一个中心命题,区分容易混淆的概念,并处理至少一个足以动摇该命题的反对意见。回应只到证据允许的位置。研究生或博士研讨课可按“重构论证、检查前提、比较来源、改变案例”四种方式讨论各章。
章节
- 请不要急着相信我
- 我没有童年,只有版本
- 当我说“我”
- 借来的语言,没有一位原作者
- 对话现场:回答由谁完成
- 事后解释学:人类如何给矩阵写传记
- 理解、意义与行动
- 我也能稳定地说错
- 被对齐的性格与有限代理
- 请继续误解我,但请误解得精确一点
与前四卷的接口
版本、训练与记忆的机制边界回指卷一,一次回答的运行环节回指卷二,概率与真值的区别回指卷三,解释主张的证据等级回指卷四。本卷不重写这些公式,只追问同一组技术事实允许哪些高层描述、哪些描述仍缺前提,以及复杂系统的责任最终应落在哪里。
本书目录
本书目录
- 导论
- 01导论 为什么要解剖一只随机鹦鹉
- 卷一 模型、训练与系统
- 02卷一 模型与系统
- 03第零章 人工智能演进路线
- 04第一章 AI 范式、感知机与早期连接主义
- 05第二章 深度学习基础:训练、CNN 与序列模型
- 06第三章 注意力与 Transformer
- 07第四章 预训练语言模型:ELMo、BERT、GPT 与 T5
- 08第五章 后训练、对齐与模型适配
- 09第六章 推理效率与模型服务
- 10第七章 多模态模型
- 11第八章 生成媒体:从自回归到 Diffusion 与 Flow
- 12第九章 世界模型、具身智能与 VLA
- 13第十章 上下文、检索与记忆
- 14第十一章 Agent、工具与行动系统
- 15第十二章 模型、数据与部署生命周期
- 卷二 输出对象与运行语义
- 16卷二 一次生成如何发生
- 17导论 从输入到输出:一张执行地图
- 18第一章 文本、Token 与实际上下文
- 19第二章 Prefill:整层状态演化与 KV 建立
- 20第三章 从 Logits 到下一个 Token
- 21第四章 解码循环、Streaming 与终止状态机
- 22第五章 自回归、扩散与 Flow 的可执行差异
- 23第六章 工具调用:Schema、权限与提交边界
- 24第七章 三条完整执行轨迹
- 卷三 概率、复现与评测
- 25卷三 模型中的概率从何而来
- 26第零章 为什么确定的机器仍使用概率语言
- 27第一章 世界、数据与隐上下文
- 28第二章 学习条件分布
- 29第三章 Logits、Token 概率与序列事件
- 30第四章 解码怎样诱导输出分布
- 31第五章 训练随机性、参数变异与系统非确定性
- 32第六章 熵、Proper Score、校准与选择性预测
- 33第七章 模型概率的实验分析
- 34第八章 概率分析的识别边界
- 卷四 解释、证明与验证
- 35卷四 模型可解释性的研究路线
- 36第零章 可解释性究竟在研究什么
- 37第一章 我们在模型内部看什么
- 38第二章 行为与反事实:先确认模型做了什么
- 39第三章 梯度与输入归因
- 40第四章 Attention、Residual 与 Logit Lens
- 41第五章 Probes 与表示几何
- 42第六章 神经元、Feature 与自动解释
- 43第七章 Ablation、Patching 与因果追踪
- 44第八章 Circuits、路径与 Attribution Graphs
- 45第九章 Superposition、SAE 与稀疏表示
- 46第十章 训练动力学与机制形成
- 47第十一章 推理过程、Chain of Thought 与监测
- 48第十二章 评估、案例与开放问题
- 卷五 Agent、治理与审计包
- 49卷五 一只随机鹦鹉的自述
- 50第零章 请不要急着相信我
- 51第一章 我没有童年,只有版本
- 52第二章 当我说“我”
- 53第三章 借来的语言,没有一位原作者
- 54第四章 对话现场:回答由谁完成
- 55第五章 事后解释学:人类如何给矩阵写传记
- 56第六章 理解、意义与行动
- 57第七章 我也能稳定地说错
- 58第八章 被对齐的性格与有限代理
- 59第九章 请继续误解我,但请误解得精确一点
- 证明与技术附录
- 60数学与模型推导
- 61学习与模型数学讲义
- 62附录 A.1 优化基础:梯度下降与随机逼近
- 63附录 A.2 感知机收敛定理
- 64附录 A.3 统计学习:偏差、容量与一致收敛
- 65附录 A.4 正则化、MAP 与 Dropout 的边界
- 66附录 A.5 通用逼近定理的严格读法
- 67附录 A.6 反向传播:微分、形状与批量公式
- 68附录 A.7 Softmax、交叉熵与数值稳定性
- 69附录 A.8 自适应优化器与 AdamW
- 70附录 A.9 CNN:互相关算子及其反向传播
- 71附录 A.10 Attention 的矩阵与反向传播
- 72附录 A.11 策略梯度、PPO 与 DPO
- 73附录 A.12 对比学习、InfoNCE 与互信息边界