CH 05心灵哲学 II：意向性、表征与符号接地
上一章讲了「意识」为什么测不出。这一章讲一个更贴近工程的问题： 「理解」和「意义」是怎么可能的？——「随机鹦鹉」「它只是在预测下一个词」这类批评， 它们的学术出处全在这一章。学完之后你能做两件事： ① 判断一场「LLM 到底懂不懂」的争论里，双方各自在哪个立场上； ② 知道为什么「工具调用」在哲学上比纯对话更接近理解——这不是营销话术，它有明确的哲学根据。
5.1意向性：心智的「关于性」
先澄清一个极易混淆的术语问题，因为它会影响你读文献。
| 词 | 英文 | 含义 |
|---|---|---|
| 意向性 | intentionality | 心理状态指向某个对象的特征。信念是关于某事的，欲望是关于某事的，恐惧是关于某事的。 |
| 意图 | intention | 打算做某事。这是意向性的一个子类，不是同一个概念。 |
所以「意向性」问的不是「有没有打算」，而是「有没有指向」。 一个词有没有意向性，指的是：它是不是关于某个东西的。
关键区分：内在意向性 vs 派生意向性
这是本节最重要的一张表。这个区分是塞尔提出的，它直接决定了「模型有没有理解」这个问题的问法。
| 类型 | 含义 | 例子 |
|---|---|---|
| 内在意向性 | 系统自己具有的指向能力，不依赖别的解释者 | 你的信念、你的恐惧——它们本来就是关于某些东西的 |
| 派生意向性 | 本身没有指向能力，意义是从外界借来的 | 「红」这个字有意义，是因为有人在用它指红色。 字本身没有意图。意义是从使用者那里派生的。 |
5.2符号接地问题
1990 年，哈纳德把这个问题形式化，它成为认知科学里最有影响力的难题之一。
一个纯符号系统的符号意义，只能来自其他符号。这就导致一个循环：
假设你完全不懂中文，给你一本中文-中文词典。 你查「红」，得到「像血或火的颜色」。你不认识「血」，于是去查「血」，得到「红色液体」。
你在符号之间来回查找，永远走不出符号的圈子。 任何一个定义都指向其他符号，而它们最终都必须落到某个非符号的东西上—— 一个你亲眼见过的红、亲身体验过的疼。
结论：符号的意义必须最终接在非符号的经验上，否则就是空的。 问题是——模型的符号接在哪里？它接在更多符号上。 这是「随机鹦鹉」论证的技术版本。
注意这个论证的力量：它不是说「模型不够好」， 而是说「如果意义必须接地，而模型只在符号层面运作，那么它就不可能获得意义」。
但这里有一个必须检查的前提
质疑的方式有两种：
- ① 也许「接地」不必是直接的。 你的「红」概念也不是直接体验——你从父母、老师、书本那里学来的，那些都是符号传递。 你是通过大量符号媒介（语言）学会「红」的。如果人类的接口也是符号，那符号为何不能承载意义？
- ② 也许「接地」不必是感官的。 如果「与世界的因果关系」可以算接地，那么一个能执行动作、接收反馈的系统 就在某种意义上接地了——即使它的动作是调用 API。这正是工具调用的哲学意义（见 5.7）。
5.3德雷福斯的批判
休伯特·德雷福斯在 1972 年出版《计算机不能做什么》，对当时的符号 AI 提出了系统性批判。 这本书常被当作「过时的悲观论」，但它提出的几个论点至今没有被完全回应，而且很值得读。
他攻击的四个假设
| 假设 | 内容 | 德雷福斯的反驳 |
|---|---|---|
| 生物学假设 | 大脑是离散符号处理器，可以用形式规则模拟 | 大脑更像是连续、并行、模拟的，形式化可能丢掉了关键性质 |
| 心理学假设 | 人可以描述自己的认知规则，这些规则可以被程序化 | 大量技能是无法被明确表述的——你能骑车，但说不出完整的物理规则 |
| 认识论假设 | 知识可以形式化为规则 + 事实 | 知识不是规则的集合，是背景技能。人对「相关」的判断依赖无法穷举的背景 |
| 本体论假设 | 世界可以被切分成明确的、不依赖语境的元素 | 什么东西算一个「对象」本身依赖语境—— 「杯子」的边界在哪？你还没碰到把手？这些判断没有明确规则 |
他最有力的论点：框架问题
德雷福斯指出了一个对符号 AI 特别致命的问题，这个问题后来被称为「框架问题」：
而「什么算相关」这件事，本身依赖于具体的语境，无法预先穷举。 你把杯子拿起来时不需要考虑「这会不会改变杯子的颜色」「这会不会影响太阳系运行」—— 你不假思索地知道这些无关。但这个「知道」没有被表述成任何规则。
德雷福斯称这类能力为「背景技能」，并认为它是形式化路线的根本障碍。
5.4具身认知：没有身体就没有理解吗
德雷福斯的批判指向一个更强的立场：认知可能根本上依赖于身体。 这一立场叫具身认知，在 1990 年代被系统地提出来。
认知不是一个发生在头脑里的、与身体无关的计算过程；它是身体与环境交互的产物。 身体的结构、感官通道的特性和行动能力，塑造了认知的内容和形式。
—— 具身认知 / 生成主义（Varela, Thompson & Rosch 1991 等）的核心主张三个具体论据
| 论据 | 内容 |
|---|---|
| 概念的身体性 | 大量抽象概念是通过身体经验隐喻地构造的—— 「温暖的人」「沉重的决定」「高的地位」。如果概念真的构造于身体经验， 那么一个没有身体的系统能否获得这些概念？ |
| 感知是主动的 | 知觉不是被动接收信息，而是身体主动探索的结果。 你看到深度，是因为你在动、有两只眼睛、能移动位置。没有行动能力，感知会是什么样？ |
| 生成主义 | 认知不是「表征外部世界」，而是通过行动与环境耦合、共同生成的。 意义不在头脑里，在交互中。这一立场对「表征」这个概念本身提出质疑。 |
但这不是定论：也有大量研究者认为这些是「锦上添花」而非「必要条件」。 你需要知道的是：这个技术路线选择背后有一个哲学分歧，而不只是工程取舍。
5.5符号主义与连接主义之争
1980 到 1990 年代，AI 领域爆发了一场著名的争论，它的哲学含量极高， 而且胜负到今天都没有分明——只是形式上改变了。
| 阵营 | 主张 | 代表 | 今天的形式 |
|---|---|---|---|
| 符号主义 | 智能的本质是符号操作，认知必须基于结构化的、可组合的表征 | 纽厄尔、西蒙、福多 | 知识图谱、形式化推理、神经符号、符号约束 |
| 连接主义 | 智能从大量简单单元的并行交互中涌现， 不必有明确的符号表征 | Rumelhart、McClelland、辛顿 | 神经网络、深度学习、LLM |
福多与皮利辛的最强批判：系统性
1988 年，福多和皮利辛发表了一篇对连接主义影响极大的批判文章。他们的核心论点是系统性（systematicity）：
他们的论证：这种系统性只能被具有组合结构的表征系统解释。 因为「张三爱李四」和「李四爱张三」共享成分（张三、李四、爱）， 只是排列不同。只有把表征看作有句法结构的、可分解的东西，才能解释这种系统性。
结论：如果认知是系统性的，那么认知架构必须是符号式的（有组合结构）。 他们在文章里宣称，纯粹分布式表征难以解释这种系统性。
- 连接主义的回应：神经网络可以学会表征组合结构—— 注意力机制、词序敏感的表征，都能表现出一定程度的系统性。 而且有实验证据显示，训练玩棋盘游戏的模型内部自发形成了棋盘状态的表征， 这至少说明「分布式系统学不出结构化表征」这个论断过强了。
- 符号主义的回应：连接主义的系统性能力是有限的、脆弱的—— 换一种表面形式（比如改变问法、加入无关从句）就可能失败。 这恰恰说明它没有真正获得组合结构，只是在统计上模仿了它。
纯工程判断无法解决这个分歧，因为它的分歧点在「什么算足够可靠」这个标准上。 实际上成熟的工程做法是混合：用统计模型处理语义，用符号约束守住底线。
5.6【工程锚点】LLM 的「理解」问题怎么判
现在把前面五节收束到一个可操作的判断框架上。你要面对的真实问题是： 「我们的模型到底理解了没有」——这个问题该怎么处理？
先分清五层，再谈「理解」
「理解」这个词在不同的技术宣称里指完全不同的东西。把它们分开，你会发现大部分争论瞬间变得可讨论：
| 层次 | 内容 | 可测性 | 测法 |
|---|---|---|---|
| ① 行为对齐 | 输出在表面上符合期望 | ✅ 高 | 标准测试集、人工评分 |
| ② 泛化 | 在未见过但同分布的输入上也符合期望 | ✅ 高 | 留出集、交叉验证 |
| ③ 系统性 | 对结构变换保持能力（改问法、加干扰、换序） | 🟡 中 | 对照实验、扰动测试 |
| ④ 内部表征 | 内部形成了关于问题结构的有用表征 | 🟡 中 | 探针任务、表征相似性分析、可解释性工具 |
| ⑤ 内在意向性 | 符号自己指向世界（不是借来的意义） | 🔴 不可测 | ——（这是哲学问题，见 5.1） |
这个拆解本身就是你的产出。它能立刻把一场无解的争论， 变成几组可设计的实验。
一个真实且重要的实验类别：探针分析
第 ④ 层有一个很有说服力的检验方法，值得你知道它长什么样。
做法：用一个独立的小模型（「探针」）去尝试从某层激活值中预测这个结构。 如果探针能高准确率地预测出来（而这个结构在输入里并不直接可见）， 说明模型的内部确实编码了它。
经典案例：研究者让模型学习玩一种棋类游戏（只给走法序列，不给棋盘）， 然后用探针检查它的内部激活值——结果能从中相当准确地重建出棋盘状态。 这类实验为「模型形成了世界模型」提供了可检验的证据—— 这比「我觉得它在推理」强得多，也比「它只是统计」更站得住脚。
评测文档该写什么
这是本章最有交付价值的产出。每次报告模型能力时，用这张表自查：
| 该写清的 | 错误写法 | 正确写法 |
|---|---|---|
| 测的是哪一层 | 「模型理解了任务」 | 「模型在留出集上准确率 87%（第 ② 层泛化）；在扰动测试上下降到 62%（第 ③ 层系统性不足）」 |
| 证明了什么 | 「说明模型具备推理能力」 | 「说明在该题型分布内、多步约束条件下，模型能维持一致性」 |
| 没证明什么 | （通常不写） | 「未测试：跨题型迁移、干扰条件下的稳定性、内部表征的可解释性」 |
| 失效条件 | （通常不写） | 「加入无关从句后准确率下降明显；问题措辞换为口语化表达时下降」 |
一个可操作的规则：在评测结论里，把「能力」这个词全部替换成 「在何种条件下的何种表现」。如果替换后句子读起来别扭，说明原句超出了证据。
5.7【工程锚点】工具调用为什么更接近理解
回到 4.6 节的「机器人回复」和 5.2 节的接地问题。 如果「与世界的因果连接」是理解的可能条件，那么一个能执行动作、接收真实反馈的系统， 在哲学上就比纯文本系统更接近这个条件。这不是营销话术，它有明确来源。
三条具体的差别
| 维度 | 纯对话系统 | 有工具调用的系统 |
|---|---|---|
| 符号的来源 | 符号只与其他符号关联（5.2 的循环） | 工具返回的是世界的状态：数据库里的真实记录、API 的真实响应、代码的真实执行结果 |
| 可被检验性 | 输出无法被系统自己验证，只能靠外部评判 | 动作的后果是可观察的。查询返回空、代码报错、API 拒绝—— 这些都是来自世界的反馈信号 |
| 错误的代价 | 幻觉只停留在文本里 | 错误的动作会产生真实后果，这迫使系统在不确定时采取保守策略 |
这也是为什么「让它去查，而不是让它猜」这个简单原则威力巨大—— 它把系统从符号循环里拉了出来。
但这带来一个必须主动管理的风险
纯对话系统的幻觉只伤害信息；有工具的系统可能：
- 向错误的地址发了真实邮件
- 在数据库里写了错误的数据
- 执行了无法回滚的操作（删除、支付、提交）
- 调用了有费用或配额的接口，产生真实成本
所以设计工具调用时，需要一条明确的分界线：
| 操作类型 | 处理原则 | 具体做法 |
|---|---|---|
| 只读 | 可以较自由地让模型自主调用 | 查询、检索、计算。风险是信息错误，可以交叉验证 |
| 幂等可重试 | 需要记录，但可以自动执行 | 创建草稿、写日志、上传文件。关键是有正确性校验与去重机制 |
| 有副作用 | 必须人工确认或严格的白名单限制 | 发送、支付、删除、对外发布。不能让模型自主决定， 因为错误的后果不可逆，而模型的错误率不为零 |
能撤销 → 可以让它自主做。不能撤销 → 必须加确认环节。
这条规则看起来保守，但它是建立信任的唯一路径—— 用户对一个会发错邮件的助手，不会给第二次机会。
5.8动手练习
- 写一份「我的评测证明了什么」说明。 拿你最近一次模型评测结果，用 5.6 节的四行表格写清：测的是哪一层、证明了什么、 没证明什么、失效条件。这份文档可以直接进评审材料。
-
做一次系统性测试（第 ③ 层）。选 20 个你的模型能正确回答的问题，然后：
① 改变措辞（正式→口语）② 加入一句无关的从句 ③ 调换问题里的条件顺序。
分别重测，看准确率变化。
如果②导致明显下降，说明它的能力对「表面形式」高度敏感——这是第 ③ 层薄弱的最直接证据 -
检查你的工具调用的「可撤销性」。列出你的系统能调用的所有工具，
逐个标注：只读 / 幂等 / 有副作用。凡是「有副作用」的，检查有没有人工确认环节。
产出：一份工具风险分级表 + 缺失的确认环节清单 - 做一次接地对比实验。选 10 个问题，用两种方式各跑一遍： ① 让模型直接回答 ② 让模型必须先调用工具查询再回答。 比较两者的错误率，特别注意「工具查不到时」模型的反应—— 它会如实说「查不到」，还是会用常识补一个答案？后者说明接地的效果是脆弱的。
5.9自测题
Q1. 意向性和意图有什么区别？为什么这个区分重要？
意向性（intentionality）指心理状态指向某个对象的特征—— 信念总关于某事，恐惧总关于某事。这是「关于性」。
意图（intention）指打算做某事，是意向性的一个子类。
为什么重要：因为关于 AI 的争论用的是前一个概念。 「模型有没有意向性」问的是「它的符号是不是真的指向世界上的东西」， 而不是「它有没有打算」。混淆这两个词会让你在文献里迷路。
Q2. 符号接地问题是什么？它依赖什么前提？
问题：纯符号系统的符号意义只能来自其他符号，形成循环—— 就像用中文-中文词典学中文，如果完全不懂中文，永远走不出来。 意义必须最终接在非符号的东西上。
它依赖的前提：意义必须接地。 这个前提可以质疑：①人类的语言学习同样大量依赖符号传递， 如果人的接口也是符号，符号为何不能承载意义？ ②如果「与世界的因果交互」算接地，那么能执行动作、接收反馈的系统就已经接地了。
Q3. 德雷福斯的「框架问题」在说什么？它针对的是什么路线？
框架问题：执行一个动作必须知道它的影响，而要知道影响就必须区分「相关的」和「无关的」。 但「什么算相关」依赖语境，无法预先穷举成规则。 人能瞬间不假思索地做出这种区分，这个能力（背景技能）没有被表述成任何规则。
针对的路线：符号 AI（GOFAI）——依赖明确规则与知识表示的路线。 有意思的是，统计学习恰恰不依赖明确规则，某种程度上绕过了这个批判； 但代价是你不知道它学到了什么，而且今天的常识失败、上下文敏感失败， 仍然带有「背景」问题的影子。
Q4. 福多和皮利辛的「系统性」论证主张什么？连接主义如何回应？
主张：认知能力是系统性的——能处理「张三爱李四」就必然能处理「李四爱张三」。 这种系统性地随结构自动生成的能力，只能用具有组合结构的表征系统来解释。 所以认知架构必须是符号式的。
连接主义的回应：神经网络可以学会表征组合结构， 注意力机制与词序敏感表征表现出一定程度的系统性；而且有实验显示模型内部能自发形成结构化表征。
符号主义的再回应：这种系统性是脆弱的—— 换表面形式就失败，说明它没有真正获得组合结构，只是在统计上模仿。
今天的状况：没有分出胜负。但工程上的成熟做法是混合—— 统计模型处理语义，符号约束守住底线。
Q5.【动手题】同事说「我们的模型只是随机鹦鹉，不可能真理解，所以做 Agent 是浪费时间」。 你会怎么回应？
先拆主张强度。「只是随机鹦鹉」有两种读法：
- 弱读法：当前模型缺少某些理解的关键要素（如与世界的因果连接）。 这是可以支持的——符号接地问题、具身认知都给出了理由。
- 强读法：符号操作原则上不可能产生理解。这是塞尔的强主张， 至今争议极大，没有被普遍接受。
然后指出论证的缺口：即使接受弱读法，「所以做 Agent 是浪费时间」也不成立。 恰恰相反——
- 如果理解的障碍是缺少与世界的因果连接（机器人回复的论点）， 那么Agent 正是补上这个连接的方式。「做 Agent 浪费时间」和这个诊断是矛盾的。
- 而且工程上，Agent 的价值不依赖「模型是否真理解」这个哲学问题的答案。 能调用工具核实事实、能执行多步任务的系统，在有用性上是可测的—— 你不需要先解决「什么是理解」才能测量「工单解决率提高了多少」。
最后给出可检验的分歧点。把争论转化为实验： 「我们来测一下——同一个任务，加工具调用和不加，错误率差多少？ 在工具查不到的情况下，它会不会编造？」这些是可以跑出结果的，而『是不是鹦鹉』不是。
注意这个回应的结构：不否认对方的前提（模型确实缺少某些东西）， 但指出从前提推不到结论，并把争论转到可检验的问题上。 这比争论「它到底懂不懂」有效得多。
- 能区分意向性与意图，并解释内在意向性与派生意向性的差别。
- 能复述符号接地问题的循环结构，并说出它依赖的前提是什么。
- 能用「理解的五个层次」拆解任何一场「LLM 懂不懂」的争论，指出双方实际在哪一层。
- 完成一份「我的评测证明了什么」说明，包含「没证明什么」和「失效条件」两栏。
- 完成工具风险分级，所有「有副作用」的工具都有确认环节。
- 能说明工具调用在哲学上（而不只是功能上）的意义：它建立了接地通道。