——读 Max Bennett 的《智能简史 / A Brief History of Intelligence》
TL;DR: 自 Jeff Hawkins 的《On Intelligence》之后（《A Thousand Brains》都算不上），最值得读的智能机理方面的著作。
翻开这本书，第一反应是动画「十二大战」里子鼠🐀的设定——拥有推演未来的能力。但严格来说，应该设定为申猴🐒才对。∵老鼠🐀其实没有模拟他人心智的能力，这等能力得到灵长类动物才会进化出来 (p318) 。
一、我们真的补全了智能的所有拼图？
我在《非技术背景如何理解大模型？》里把「人脑🧠学会思考的 4 块踏脚石🧩」总结为：
1️⃣ 从秩序到预测；
2️⃣ 从预测到理解；
3️⃣ 从理解到创造；
4️⃣ 从感性到理性；
本书提出了 5 块生物学机制踏脚石🧩，∴其副标题就叫「Evolution, AI, and the Five Breakthroughs That Made Our Brains」，具体是哪五个突破呢？一言以蔽之，人的成长，就是一个「以为能掌控的世界不断收缩 & 实际能掌控的不断扩张，直至二者吻合」的过程。
- 婴儿👶🏻一生下来「左手指天，右手指地；天上地下，唯我独尊」，以为全宇宙目之所及尽在掌控，我即宇宙[1]。比如：饿了，一哼哼，奶瓶🍼就自己塞进嘴里了……；
- 慢慢地，她们发现「不如意事，十之八九」，开始形成「自我」的概念，原来我有我的计划，但世界另有计划；
- 再然后，她们发现「不仅天地不受我掌控，连他人也不受我掌控，我能掌控的还剩下些什么？！」；
- 再然后，随着能力的增长，她们发现「我又行了」；
- ……
如此反反复复，在不断地期望 & 失望中最终认清了自我 & 世界的边界……
白居易 29 岁写「十七人中最少年」，何等英姿勃发；然，8 年以后写下《卖炭翁》😮💨。
书中把这个过程表述得更清晰：
(
p336) 表 19.1 学习来源的演变
breakthroughs 学习来源 向谁学习？ 从什么行为中学习？ 早期脊椎动物的「强化」 从自己的实际行为中学习 自己 实际行为 早期哺乳动物的「模拟[2]」 从自己的想象行为中学习 自己 想象行为 早期灵长类动物的「心智」 从他人的实际行为中学习 他人 实际行为 早期人类的「语言」 从他人的想象行为中学习 他人 想象行为
这张表还揭示了另一个更为深刻的洞见：要想进步得以累积，而不回撤，最好的办法就是去寻找新的维度。∵如果是在旧维度上折腾，怎么都会有抵消；而在新维度上，不管做什么，在旧维度上的投影都为零——即不会拉扯旧维度。当然，找到新维度并非易事，那么弄清旧维度下的结构，将之拆分为不同要件相乘，也不失为一个常见方法。
好了，让我们回到正题。本书提出，智能的演化史上有 5 次突破：
1️⃣ steering / 转向；
2️⃣ reinforcing / 强化；
3️⃣ simulating / 模拟；
4️⃣ mentalizing / 心智；
5️⃣ speaking / 语言；
1.1. navigate by steering ?! 通过转向导航？不不不，应该是「取舍 / trade-offs」，是「趋利避害」，是「价值判断」
(
p057) 转向的突破需要双侧对称动物将世界分为要接近的事物（“好的事物” / "good things"）和要避免的事物（“坏的事物” / "bad things"）。
姑且称之为「脑子🧠」吧，需要朝着温暖的方向转向，避开寒冷的方向；需要朝着有食物气味的方向转向，避开恶臭气味的方向；需要……然后，所有的「偏好」整合在一起，就成了第一个脑子🧠。∴我觉得 breakthrough #1 应该是「价值判断」（或作者说的「效价」（valence），而后发展成为「情感」），而非「转向」。然后，这一坨「价值判断」（被硬编码成「好 & 坏」的一组策略）打包成了「内部状态」（our internal states）。
∴也许脑子🧠看到的世界，其实是一个「甜 & 苦」的空间？突然想到了这张图：
1.2. Reinforcing ? 强化学习？试错（trial and error）？不不不，应该是「奖励预期」，是「地图」「内在罗盘」，是「我在哪？」
一局棋，可能有上百步，可其中哪一步是妙手，哪一步又是臭棋呢？Richard Sutton 找到的解法是「奖励预期」，也就是大名鼎鼎的「actor-critic 算法」。
(
p119) Sutton 提出一个简单但激进的想法：与其用「实际的奖励」来强化行为，不如用「预期的奖励」来强化？也即，在 AI 系统认为「自己快要赢」的时候给予奖励，而不是在它「实际赢了之后」才给予奖励。
太巧妙了，我必须摘抄一遍原文：
Instead of reinforcing behaviors using actual rewards, what if you reinforced behaviors using predicted rewards? Put another way: Instead of rewarding an AI system when it wins, what if you reward it when the AI system thinks it is wining?
事后想来，「拆分成行动者（actor）& 评判员（critic）」这招实在太妙了😨，妙就妙在「它无中生有地创造了一个「观察 → 比对 → 修正」的控制循环♻️，且每走一步，这个循环就自修正一遍（∴作者将之称为「A Magical Bootstrapping」）」。本来是在黑灯瞎火中乱窜，要撞到墙了，才知道走对了。现在，「信号🔥」出现了，且每走一步，这个内部「信号🔥」都会眨一下眼。
那些星星点点的「信号🔥」，日后会构成我们的「自我」。然后以「自我」为原点，展开参照系。再然后，「地图🗺」绘就。
(
p169) 这（早期脊椎动物大脑中空间地图（spatial maps🗺️）的进化）同样是大脑首次将自我与世界区分开来的时刻。
∴也许我们脑🧠中不是世界的样子，而是「奖励」的样子？
另，《為什麼偉大不能被計劃》這本書第五章提到「我們對問題空間的探索，就是在尋找關於這個空間的知識」。即，對環境 / 結構的預測，會受到真實世界的塑形。
1.3. Simulating? 模拟？不不不，应该是「推演」
有了对「环境」的模拟 / 模型（model），「预测」才算真正有了可能。有了「模型」，才能「推演」，推演不同的未来——即「想象」。之前，只能从自己撞过的南墙中学习；现在，可以从想象的南墙、北墙、东墙、西墙中比对结果，学习效率得到质的飞跃。
这可能也是系统Ⅰ（如直觉、习惯、肌肉记忆，文中叫做「model-free reinforcement learning」）、系统Ⅱ（文中叫「model-based reinforcement learning」）的底层区别？
为什么能「模拟」呢？「模拟」的生物学基础是什么？
(
p232) 第一批哺乳动物的额叶新皮质 🆚 感觉新皮质
额叶新皮质 感觉新皮质 自我模型（a self model） 世界模型（a world model） 从海马体、杏仁核 & 下丘脑获取输入 从感觉器官获取输入
我理解，在 breakthrough #2 中的「内部状态」进一步分裂成了「自我」&「环境 / 世界」。正因为把「自我」从「世界地图🗺️」上解耦出来，才能够在「世界地图🗺️」上激活不同的「自我」——即，想象不同的未来。
另，DeepSeek 补充了 3 个生物学实现细节：
1️⃣ 一张可以脱离身体运行的地图（海马体的离线重放）；
2️⃣ 一个可以拷贝感觉运动循环的皮层（前额叶拦住动作命令、在内部跑模拟环）；
3️⃣ 一个可以给模拟结果打分的价值系统（眶额皮层给不同未来贴标签）；
1.4. Mentalizing? 心智？不不不，应该是「推己度人」，是「感同身受」
到了这个阶段，再挖掘自身潜力不大了，得靠「摇人」/「协作」。要协作，就得理解他人的「意图」、他人的「知识」(p273)。
如何模拟他人的「心智」呢？通过模拟自我来模拟他人（modeling your mind to model other minds）。
(
p294) 在大脑🧠中，理解自己的心智 & 理解他人的心智，是同一个过程。
1.5. Speaking? 语言？不不不，应该是「想象 & 共识」
这部分就没啥好说的了，Yuval Noah Harari 的《人类简史》已经把这个话题聊透了。
二、笨蛋，重要的不是「预测」，而是「猜测」
(
p392) 心智与语言的交织无处不在。每一次对话都是建立在「模拟他人心理」的基础之上，也就是「猜测」一个人所说的话是什么意思，并猜测应该说什么来尽可能让对方理解你的意图。
Sam Altman 说（大意是）：智能的本质就是预测。就像你读一本侦探小说，直到最后，侦探说，凶手是……要想猜出凶手，就需要对整个剧情、动机、线索、不在场证据……全数理解。而当你预测出凶手是谁，也就代表了你理解了这一整本小说。
这的确是一个非常巧妙的解释，但始终让我将信将疑，直到我看到本书：当你回答一个问题，看完题面，你脑中已经构建起一个内部模拟。作者举了个例：问「在没有窗户的地下室仰望天空，你会看到什么？」，你的脑子里一定已经构建起一个没有窗户的房间。
我恍然大悟，是的，根本不是什么「预测 next token」，而是「模拟 world model」。我反对的不是预测本身，而是把「预测 next token」等同于「模拟 world model」。
(
p390) 人类能够使用这些词语序列来与他人构建相同的内部模拟。
语言是共识的 world model ？
2.1. 复杂技能 = 通用学习系统 + 专业课程
(
p352) 像飞行这样的复杂技能，包含的信息量太大，无法直接硬编码到基因组🧬中。更有效的做法是，融合（encode）一个通用的学习系统（如大脑皮质 cortex）和一门特定的硬连接学习课程（如，跳下树枝→拍打翅膀→尝试滑翔 = 习得飞翔）。
可以这样理解：
- 通用学习系统（a generic learning system），其实就是个「应激反应求解器」，用来「解算」从环境中捕获的信号，比对预期，用差值来指导调整（策略、规划、动作等）……。它对外界知识持有最少依赖，而不预设任何具体技能；
- 专业技能课程（a specific hardwired learning curriculum），提供少量行为原语、情景触发开关、奖励、标准流程……；
这 ™ 不就是 LLM + skills 😨？！
读到这，我才发现，我对「课程」两个字过于熟悉，而从未触及其深刻本质😨。skills 根本不是什么「渐进式披露」的技能，本质是「知识迁移」，是「训练课程」。
(
p356) 随着这种本能学习课程的进行，年轻的人类大脑🧠将新皮质中原本用于心智的区域重新用于语言。
(
p380) 尽管 （印度尼西亚的）Homo floresiensis 大脑🧠缩小到与现代黑猩猩的大脑🧠相近，甚至更小，但这个物种仍然展现出了与直立人（Homo erectus）相同的、使用复杂工具🛠️的能力。
这 ™ 不就是「知识蒸馏」吗？∴蒸馏的要点在于「反馈清晰、排除掉无关噪音的训练课程」？∴蒸馏之所以能够压缩，是因为在「重新布线」「屎山重构」？
2.2. 具体如何设计课程？交互！
交互在智能中扮演着何种角色？
(
p353) 只有当网络在这些句子的练习中表现良好时，他（Jeffrey Elman）才提高复杂度。换句话说，他设计了一门课程（curriculum）。
虽然我早就知道 AlphaZero 是通过自我对弈来训练的，但我从未想过，「课程」的意思是，设计一系列与「学习者」学习能力相匹配的阶梯🪜。那么，「交互」在智能训练中扮演了什么角色呢？渐进式披露的「脚手架🪜」？
我问了下 DeepSeek，它说，从「干预世界，并观察世界如何回应」的闭环中涌现了智能。∵：
1️⃣ 从「相关」中确认了「因果」（比如，小 baby 反复丢勺子🥄，其实是在做物理实验）；
2️⃣ 「我的行动，引起的变化」在海量信噪中画了重点，帮助从混杂的背景中分离出「物体」的概念；
3️⃣ 通过和老师「共享注意力」，标注「符号」，从老师那学习；
4️⃣ 交互，本质上是一种对抗；对抗，其实是在试探双方边界；摸清边界能帮助更好定义「事物」。同时，对抗是一个不断升级的动态过程，持续催生更深度的理解；
2.3. 如何看待「错误❌」？
(
p310) 每当（自动驾驶系统）ALVINN 犯下哪怕很小的错误，它都完全无法纠正。小小的失误会迅速演变成灾难性失败，经常导致汽车完全驶离道路。问题在于，ALVINN 只接受过正确驾驶的训练，它从未见过人类纠正错误。
我们的教育把「错了❌」看成「天塌了」。其实，积累对错误❌的应对，本身就应是学习的一部分。
在「怎麼給無 AI 背景的人解釋大模型？」一文中提到：
是的是的，我們之前大大低估了「錯誤❌」的重要——正是錯誤提供了更多的反饋，錯誤描摹了真實世界的樣子。∴對小朋友，尤其要鼓勵試錯❌，而不在於做對✅——追求做對，所圖甚小。
妮妹問，那眼睜睜看著小朋友寫不對，不管囉？
答：要是妳實在忍不住，那就「只糾正一處」，改動最小、改變最大的那一處。但這極為考驗父母對結構的洞悉，難度極大，不是二流父母能使得出來的🤣🤣🤣。
另外，在「對「失敗❌」「錯誤❌」的再認識」一文中亦有介绍。
三、我当然希望 AI 应该重演一遍生物进化的路子，但它可能另有计划
按照生物演化的思路，未来的 real Intelligence 应该是这样的：
1️⃣ 具身，能知晓自身的状态。transformer 架构应该大改，把「地图🗺」纳入其中；
2️⃣ 模仿，会猜想他人心智；
3️⃣ 好奇，会因探索未知而得到内建的奖励；
4️⃣ 情感，用来引导价值判断；
……
现在的 LLM 耗能又高（远超人脑那点可怜的生物耗能）、还缺乏物理常识……可万一我们搞复杂了呢？就像现在的飞机也是耗能又高、又不灵活（远不及鸟类、蜻蜓，看俄乌战场上无人机追不上飞鸟就知道了）……可飞机的表兄——火箭[3]却是实现了飞入太空这一任何生物都未曾完成过的壮举。万一智能的本质就是简简单单的「共轭控制」呢？那么现有的 LLM 就不会撞墙，继续绽放「暴力美学」。
3.1. 「曹冲称象」猜想 / 「罗塞塔」猜想 / 「雨傘☔️」猜想
在「怎麼給無 AI 背景的人解釋大模型？」一文中提到：
創新也好，突破也罷，其本質都是「共軛控制」（或者叫「曹沖稱象⚖️🐘」「知識孿生」，在《數學的雨傘下》一書中叫做「雨傘定理☔️」）。
《數學的雨傘下》很多創新並沒有真正用強力砸開通向答案的障礙，而是通過「橋」從共軛空間繞過去。即，進入到高維空間中去繞開低維空間的障礙，就是「高維打低維」啦。更通俗、不嚴謹的理解是「三個臭皮匠，賽過諸葛亮」，這就是混合專家系統（Mixture of Experts, MoE）。
如果還沒說清楚，那就理解成「萬物轉化」吧。這可是世間最厲害的法術。數學上叫「變換」，那是等價轉換；社會學上叫「轉化」，本質也就是一種資源兌換成另一種資源⋯⋯
(
p389) 人类大脑既包含语言预测系统，也包含内部模拟系统。
可要是「语言预测系统」就是能够等效为「内部模拟系统」呢？😑🤦🏻♂️。我们通过语言来传递「内部模拟（inner simulations）」，那岂不是代表，语言就是内部模拟的有效压缩？！
不！如果语言能解决一切通信的问题，我们的先人板板还发明图画、音频、视频……这些辅助思考的工具做什么？！
文明就两条主线，能量 & 信息：
- 发明内燃机的时候，我们宣告驾驭了能量；
- 发明 LLM+ 的时候，我们能宣告驾驭了信息？又或是我们将被智能驱使？
也许，我们该学学唐寅的「他得驱驰我得闲」。可抛开智能，我们的优势还剩什么？
