为什么历史上所有关于大脑的比喻都是错误的

每个时代都有其应得的关于大脑的隐喻。笛卡尔认为神经系统的工作方式就像法国皇家花园里的液压自动机。当科学家发现神经中的电信号时，大脑就变成了电报网络，然后是电话交换机。现在它是一台计算机。这种模式非常一致，它本身可能就是一条自然法则：我们总是通过类比我们最先进的技术来解释大脑。而且我们总是，最终，意识到这种类比是一种简化，而我们忘记了它是一种简化。

本期节目

《机器学习街谈》汇集了过去对七位思想家的采访片段——哲学家马兹维塔·奇里穆塔、弗朗索瓦·肖莱、约沙·巴赫、卢西亚诺·弗洛里迪、诺姆·乔姆斯基、诺贝尔奖得主约翰·江珀 和神经科学家卡尔·弗里斯顿——来探讨一个看似简单的问题：当科学家为了研究而简化现实时，什么被捕捉到了，什么又丢失了？

本期节目以年轻的卡尔·弗里斯顿的故事开场，他观察到花园里的鼠妇在阴凉处移动得更快，在阳光下移动得更慢。这种童年时期的观察成为了自由能原理的种子，该原理试图用一个简单的公式来解释所有行为。主持人蒂姆·斯卡夫称其为“终极球形奶牛”——指的是一个关于粗略简化混乱现实的古老物理学笑话。弗里斯顿本人也同意该原理“几乎在逻辑上很简单”，而这正是奇里穆塔的研究要解决的问题。

简朴主义 vs. 无知主义

斯卡夫将中心张力构建为两种哲学立场之间的拳击赛：

简朴主义 认为科学之所以有效，是因为宇宙实际上在底层是简单的。找到一个优雅的方程式，你就找到了真实的东西。伽利略、牛顿、爱因斯坦都持有这种观点。爱因斯坦的“上帝不掷骰子”表达了一种信念，即现实从根本上来说是清晰易懂的。

无知主义 认为我们简化是因为我们太有限了，无法做到其他事情。我们的工作记忆可能只能容纳七个项目。我们在 80 岁后死亡。所以我们构建模型，故意遗漏一些东西，给自己讲故事。当这些故事奏效时，这并不能证明自然是简单的；它证明了我们已经擅长构建有用的简化。

奇里穆塔“全力以赴”地支持无知主义的立场。她借用了哲学家尼古拉斯·库萨的一句话：docta ignorantia——有学识的无知。你努力学习，你学到很多，而你学到的包括你不知道的东西。

万花筒假说

弗朗索瓦·肖莱提出了一个相互竞争的愿景。他的“万花筒假说”提出，在现实看似混乱的表象之下，隐藏着简单、重复的模式——就像万花筒中少量的彩色玻璃碎片，通过镜像和重复，创造出巨大的丰富性。在他看来，智能是挖掘经验以提取这些“意义原子”的过程。

“A big part of intelligence is the process of mining your experience of the world to identify bits that are repeated and to extract them — extract these unique atoms of meaning. When we extract them we call them abstractions.” 智能的一个重要部分是挖掘你对世界的经验，以识别重复出现的片段并提取它们，提取这些独特的意义原子。当我们提取它们时，我们称它们为抽象。

奇里穆塔的回应不是肖莱错了，而是他正在进行一场哲学赌注——与柏拉图所做的赌注相同。表象世界是复杂而混乱的，但在其底层，真实的现实是整洁的并且可以在数学上分解的。这可能是对的。这可能是柏拉图式的异想天开。

软件是精神——字面意义上的？

约沙·巴赫在本期节目中提出了最具挑衅性的主张：软件字面上是精神，而不是比喻。他的论点贯穿了因果不变性。金钱不是钞票上的墨水或银行服务器中的电子；它存在于物理实例（纸张、硬币、黄金、数字账本）中，但却对世界产生因果影响——它让你吃饱，发动战争，建造城市。巴赫认为，软件也是如此：一种在多种类型的芯片上运行的抽象模式，甚至可能是神经元，并且这种模式具有因果力量。

他介绍了一个引人注目的概念：计算机作为“因果绝缘体”。计算机创建了一个层，在这个层上可以存在任意的现实。《我的世界》在 Mac 和 PC 上的运行方式完全相同；从那个世界内部，你无法获得关于 CPU、外壳颜色或电压的任何信息。巴赫认为，我们的大脑是一个类似的因果绝缘体——它让我们拥有独立于周围发生的事情的想法，设想不受现在影响的未来。

斯卡夫通过奇里穆塔的视角进行了反驳：谁来识别“不变性”？当我们说相同的算法在不同的芯片上运行时，物理上会发生完全不同的事情——不同的电压，不同的电子。“相同性”是我们强加的。它存在于我们的描述中，而不是存在于自然界中。而金钱只有在人类的解释实践中才有效；如果没有人类及其协议，它就只是一张纸。

知识不是事物

卢西亚诺·弗洛里迪对温度的历史做了一个有趣的类比。2000 年来，人类一直认为冷热是两种可以混合的独立物质——“温度”字面意思是“混合物”。他们认为热是一种抓住东西的无形流体。直到观察到钻炮孔会产生看似无限的热量，焦耳才意识到：温度不是一种拥有自己粒子的事物。它是物质具有的一种属性。

弗洛里迪认为，知识也是如此。它总是存在于某种物理介质中——来自 Wi-Fi 路由器的电磁波在技术上是一种物理体现——但它本身不是一种事物。它抓住你，抓住我，抓住集体，但它没有独立的物理性。

他最有力的一步是重构了整个形而上学辩论。当有人问“宇宙是一台巨大的计算机吗？”这个问题没有意义，除非你明确你为什么要问。这是同一栋建筑吗？取决于：对于方向来说，绝对是；对于功能来说，它曾经是一所学校，现在是一家医院。这是同一艘船（忒修斯之船）吗？如果税务员问，是的。如果收藏家问，一文不值。

“Is it worth modeling the universe as a gigantic [computer] for the purpose of making sense of our digital life? Oh yes, definitely. Because we are informational organisms.” 为了理解我们的数字生活，将宇宙建模为一台巨大的计算机是否值得？是的，绝对值得。因为我们是信息生物。

弗洛里迪认为，计算模型并非字面意义上的真实，但它很有用。错误在于忘记它是一个模型。

预测、控制、理解

诺贝尔奖得主约翰·江珀 在本期节目中提供了一个最清晰的框架。他区分了我们经常混淆的三件事：

• 预测：给定一个输入，我的屏幕上会出现什么值？
• 控制：我希望未来的测量结果是 17。
• 理解：我拥有如此少的事实集合，以至于我可以预测并且在索引卡上将这些事实传达给另一个人。

人工智能让我们能够预测和控制。我们必须得出自己的理解。我们现在可以对 2 亿个预测的蛋白质结构进行实验，而不是对 20 万个实验的蛋白质结构进行实验，但机器不会为我们完成理解的行为。

奇里穆塔将其提炼成一个真正的困境：你可以追求理解，也可以追求预测，但它们相互对立。大型语言模型和深度神经网络正被用作神经元反应的预测模型，但缺乏科学家传统上渴望的数学清晰性。如果该领域优化预测，它可能会放弃那种告诉你工具何时会损坏的理解。

人工通用智能的文化历史幻觉

奇里穆塔提出了本期节目中最具挑衅性的观点：我们对人工通用智能不可避免的信心可能是一种“文化历史幻觉”。该论点追溯了生命科学和心理学中机械思维的历史——几个世纪以来，知识分子逐渐将生命和思想视为机制。如果你已经相信认知“反正只是机制”，那么你当然可以制造一台机器来复制它。人工通用智能感觉是不可避免的。

但如果机械论假设是错误的，那么这些关于类生物人工智能不可避免性的说法就没有充分的依据。

“We could be subject to a kind of cultural historical illusion that this is just going to happen.” 我们可能会受到一种文化历史幻觉的影响，认为这件事就是会发生。

斯卡夫诚实地承认了这种紧张关系：克劳德代码在过去 6 个月里在软件开发领域产生了“比过去 20 年更有趣的东西”。但他指出，这是一种自动化技术——它只取决于你指定、监督和委派的能力。问题不在于这些工具是否令人印象深刻，而在于令人印象深刻是否等同于智能。

触觉现实主义和视角知识

奇里穆塔提出，知识的工作方式更像触摸而不是视觉。大多数科学哲学都将知识视为观看——你退后一步，从远处观察现实。但科学知识涉及干预：戳、捅、刺激、建模。出现的模式是真实的，但它们也是部分由调查过程创造的。

她将其扩展到对大型语言模型的批评。它们渴望成为一种“每个人的声音”——将所有视角融合在一起的知识，形成一种上帝视角。但正是因为它们没有在有限的社区中进行特定的社会化，所以它们是不可靠的。知识是视角性的，本质上来自人类的观点，本质上是有限的。一本书没有知识；它是一份档案记录。你不能把工程手册和水泥扔进峡谷，然后期望出现一座桥梁。团队拥有知识。组织拥有知识。知识是社会性的和情境性的。

乔姆斯基的认知视野

诺姆·乔姆斯基提供了本期节目中最令人谦卑的框架。如果我们是有机生物，那么我们的认知能力是有界限的——就像一只老鼠可以被训练来跑复杂的迷宫，但永远无法学习素数迷宫，因为它根本没有这个概念。

“I suspect there’s reasons to suppose we’re like rats. We have capacities. We have a nature. We have a structure. They yield all sorts of extensive range of things that we can do, but they probably impose limits.” 我怀疑有理由认为我们像老鼠。我们有能力。我们有本性。我们有结构。它们产生了我们可以做的各种广泛的事情，但它们可能会施加限制。

我们最好的理论会撞到我们认知视野的墙壁。也许即使知道墙在哪里本身也是有价值的。

一些想法

本期节目与其说是一场有赢家的辩论，不如说是人工智能研究建立在其上的哲学地形图——大多数从业者从未检查过的地形。

• 大脑隐喻追踪尖端技术的模式不仅仅是一种历史的好奇心；它也是对我们现在所处的计算隐喻的警告。之前的每一个隐喻对它的时代来说都同样是不言而喻的。
• 弗洛里迪的重构是这里最具实践意义的想法：停止问“X 是真的吗？”并开始问“X 对此目的有用吗？”“大脑是一台计算机吗？”的答案不是肯定或否定；而是“告诉我你为什么要问。”
• Jumper 和奇里穆塔指出的预测与理解之间的紧张关系将定义未来十年的人工智能研究。我们在预测方面变得非常出色，而理解工具的进步速度却没有达到相同的水平。
• 奇里穆塔的“文化历史幻觉”值得更多的播出时间。当你意识到它建立在几个世纪以来关于思想的机械论假设之上时，硅谷对人工通用智能不可避免性的确定性看起来就不同了——这些假设是哲学赌注，而不是既定的事实。
• 巴赫的“因果绝缘体”概念确实是新颖的，但斯卡夫的反驳很有道理：我们看到的跨基质的“相同性”可能是我们描述的产物，而不是自然的特征。这是心灵哲学中最深的断层线，本期节目中没有人解决它。