https://www.youtube.com/watch?v=BSntnkEqRY0
控制论视角下的智能：大脑、人工智能与自主系统的哲学思辨
通俗易懂的解释
这篇文章是一次深度访谈的文字记录。受访者是一位名叫马克西姆·拉金斯基的控制理论专家，他和主持人一起探讨了如何用“控制”的眼光来看待大脑和人工智能。
简单来说，这场对话的核心思想是：
- 大脑和AI不一样： 虽然它们有时候表现得很像，但一个是亿万年进化出来的，一个是人几年就造出来的，它们的“内部构造”完全不同。我们不能因为AI能说人话，就觉得它的大脑和人一样。
- 控制不只是“反馈”： 我们通常觉得控制就是“感知-决策-行动”的循环（比如空调恒温器）。但作者指出，还有很多“被动控制”，比如水管里的压力阀，它不需要计算，光靠物理结构就能完成控制任务。大脑里可能也有类似的机制。
- 警惕“万能理论”： 无论是想用一个公式解释一切的“主动推理”，还是把智能等同于完成任务的“AGI（通用人工智能）”，作者都持怀疑态度。他认为这些概念太模糊、太不稳定，甚至有些想法（比如AGI）本身就不合逻辑。
- 语言不是智能的全部： 著名的“图灵测试”只看你能不能聊天，这太片面了。智能还包括规划动作、感知环境、协调身体等等。一只苍蝇躲苍蝇拍的智能，和图灵测试测的智能就不是一回事。
- 做个“低能耗”的思考者： 作者自己的生活哲学也贯穿其中：不要被学术界的“内卷”和量化指标绑架，保持对哲学、人文的兴趣，从更广阔的视角去思考问题，反而能更好地找到工作的意义。
总之，这篇访谈鼓励我们用一种更谦卑、更系统、更多元的视角去看待智能，无论是人造的还是自然的。
第一部分 引言与个人哲学：低能量生活与学术反思（0% - 8%）
第（一）部分 “低能量生活方式”：从学术竞赛到内在和谐（0% - 8%）
- 开场与个人哲学： 主持人Paul Middlebrooks介绍嘉宾Maxim Raginsky教授，并从他个人网站上的“低能量生活方式”声明切入，引出其背后的哲学思考。
- “低能量”的内涵： Raginsky解释，“低能量生活方式”是一种对现代生活中量化、排名、游戏化各种活动的反抗，是一种保持内心和谐、顺应自然流动的私人玩笑，灵感来源于道家思想（如《道德经》）。
- 人生转折点： 女儿的出生和新冠疫情是他转向反思的关键事件。前者让他意识到家庭比发表论文更重要；后者让他看到学术界并未利用机会放缓节奏，反而提高了“论文产量”，这促使他重新审视自己的价值观。
- 哲学兴趣的回归： Raginsky年轻时就有哲学兴趣，但在追求学术事业时搁置了。通过妻子Svetlana Lazebnik（计算机视觉研究者）准备讲座的过程，他重新接触到了David Marr、J.J. Gibson、Jan Koenderink等人的思想，以及现象学（胡塞尔）、Jakob von Uexküll的理论，并发现了它们与控制理论的惊人联系。
- 跨学科思考并非罕见： 尽管表面上少见，但他发现许多同事私下都有深厚的哲学兴趣。他认为这只是自己注意力转变后发现的模式，并认为这种跨领域思考有助于维持工作的意义感。
- “博学家”的谦逊： Raginsky不认同“博学家”这一带有自我恭维意味的标签，但他承认自己对多种认识世界的方式（科学、人文、文学、历史、经济）感兴趣，认为这是理解人类如何在环境中嵌入自身的一种方式，并最终会反哺他的研究。
第二部分 大脑与AI的比较：相似性与本质差异（8% - 25%）
第（二）部分 大脑与AI：表象相似，内部迥异（8% - 15%）
- 核心问题： 从一个控制工程师的角度看，大脑和人工智能模型看起来一样吗？
- 谨慎的回答： Raginsky认为，从外部观察其过程和结果，它们常常看起来很相似。但他对断言两者内部组织存在同构关系持怀疑态度。
- 根本原因： 大脑是通过漫长的进化路径发展而来的，而AI系统是技术发展的产物。它们与环境耦合的方式、相互塑造的过程截然不同。因此，仅仅因为大型语言模型能产生流畅的语言，就断定其内部结构与大脑类似是不明智的。
- Gromov的类比： 数学家Mikhail Gromov提出一个有趣的观点：大脑作为一个控制系统，能用极低能量的输入（如一句话）触发极高能量的行动（如逃跑）。他将此与LLMs类比，认为LLMs更像小脑——负责用低能量输入协调高能量活动，而大脑皮层则更多输出低能量控制信号。这意味着未来的AI可能需要更像皮层的架构。
第（三）部分 内部组织的推断与设计：多重可实现性与路径依赖（15% - 22%）
- 多重可实现性： Raginsky指出，哲学上的“多重可实现性”和控制工程中的概念一致：相同的外部行为可以由完全不同的内部结构实现。因此，仅凭外部观测推断内部组织是一个病态问题。
- 合成问题 vs. 分析问题： 作为工程师，更常面对的是“合成”问题：给定一组组件（电子、机械等），如何设计一个具有特定行为的系统。这与生物进化面临的“路径依赖”问题不同。
- 进化的约束： 生物进化无法像工程师那样推倒重来，它必须在现有结构上进行增量修改。这引出了“约束即解放”的概念：某些底层结构被锁定，但恰恰因为有了这些可靠的基石，才能在更高层次上创造出惊人的多样性（例如数字计算机的二进制逻辑）。
- 层叠架构： 这种分层架构（来自John Doyle的思想）允许工程师在不同抽象层级上工作，无需每次都关心底层实现细节，除非遇到性能瓶颈。
第（四）部分 模拟与数字：Von Neumann的先见之明与LLM的反转（22% - 30%）
- Von Neumann的洞见： Von Neumann在《计算机与大脑》中预见了多个关键点，包括大脑的高冗余性、容错性，以及同时需要数字（如神经元的全或无放电）和模拟（如激素的广播式调节）两种运作模式的必要性。
- 符号AI与LLM的反转： Raginsky引用妻子的观点，指出传统符号AI（如McCarthy、Minsky、Marr）的思路是：世界是模拟的，但处理几乎立即转为符号（离散表征）并进行操作。而LLM正好相反：我们通过“词元”（tokens，数字化的离散输入）感知世界，但其内部处理却是在高维向量空间中进行，类似于模拟运算，使得聚类和分离变得容易。
- 统计信息处理： Von Neumann还预见到，我们需要处理以统计方式编码的信息。这与香农信息论不同，后者用概率分布来建模世界，但最终处理的仍是比特。Von Neumann的意思是，信号本身就是概率分布或统计率，操纵它们本身就很有用。
第三部分 控制理论的深化：注意力、闭环与开环、被动控制（30% - 50%）
第（五）部分 注意力与控制的两种模式：从反馈到前馈（30% - 38%）
- Brockett的注意力控制理论： Roger Brockett用“注意力”来描述控制策略对时间和状态的敏感度。高度依赖状态的是“闭环控制”（反馈），高度依赖时间的是“开环控制”（前馈）。
- 技能习得的过程： 学习新技能（如演奏乐器）时，最初充满反馈和反思（闭环）；一旦熟练，就变成近乎开环的控制，只关注时间序列（如乐谱）。
- 压缩与扩展： Brockett在2001年就用“词元”（tokens）一词描述了这种压缩过程：我们用少数词汇代表丰富的感官信号，然后在行动端将其展开为复杂的运动程序。
- 通用原则的追求： Raginsky强调，比起针对特定结构的精细数学模型，他更感兴趣的是那些通用的组织原则，就像《神经设计原理》一书中列举的那些定性原则，它们能帮助我们理解大脑和LLMs这类复杂系统。
第（六）部分 大脑是控制系统集合：连贯性与被动控制（38% - 45%）
- 大脑不是单一控制系统： Raginsky认为，将大脑视为一个单一控制系统过于简化。它更像是一组控制系统的集合，由某种“元控制”机制确保它们协同工作，保持“连贯性”。
- 连贯性的重要性： 这个概念来自法国神经科学家Alain Berthoz，他用晕动症为例解释了连贯性：当视觉与平衡感冲突时，大脑会误判为中毒，这是进化出的巧妙检测机制，但在现代交通工具中成了“对抗样本”。
- 被动控制器： Raginsky引入Jan Willems的观点，指出控制不仅仅是带反馈的主动信号处理。许多系统通过物理耦合本身就能实现控制功能，例如压力阀、散热器。它们是“被动控制器”，通过自身的物理结构和与其他系统的连接来约束行为。
- 神经元作为控制器： 对于Dmitri Chklovskii提出的“单个神经元也是反馈控制器”的观点，Raginsky表示认可，但这与Gibson的“感知-行动循环”思想是一致的。
第（七）部分 控制的三个维度：行为、存在与演化（45% - 52%）
- 超越“行为”： 大多数控制工程师专注于系统的“行为”层面（设计一个能正常工作的系统）。但Raginsky指出，控制还有另外两个维度。
- “存在”与“演化”： “存在”指的是系统如何维持自身，应对故障（如恒温器坏了需要修理）。“演化”指的是系统如何适应根本性的变化，获取新技能。Robert Rosen的“相对于模型的涌现”概念与此相关，免疫系统就是一个例子，它能不断产生新的抗体来应对未知病原体。
- 三个维度： 这三个维度可以概括为“存在、行为、演化”。这构成了一个更完整的控制论框架。
第四部分 控制理论的哲学基础：Willems的行为方法与Ashby的遗产（52% - 68%）
第（八）部分 Jan Willems的行为方法：从数据到模型，无输入输出的控制观（52% - 62%）
- Willems的核心思想： 与传统的输入-输出黑箱模型不同，Willems的方法将系统定义为其所有可能轨迹（潜在行为）的集合。输入和输出的区分并非先验的，而是从经验中得出的。
- 输入与输出的定义： 输入是系统中完全不受约束、无法用定律解释的部分；输出则是已经被其他变量约束的部分。当输出反过来约束输入时，就形成了闭环，系统变成了没有外部输入的“自治系统”。
- 价值与局限： 该方法在系统辨识（从数据到模型）方面非常强大，因为它提供了一个纯粹基于数据的严谨框架。但它不擅长“合成”（设计新系统），因为它是一个解释性框架，而非建设性框架。
- 对控制概念的拓展： Raginsky认为Willems的最大贡献是拓宽了“控制”的定义，证明了许多控制器并非通过反馈实现控制。
第（九）部分 回应批评：澄清Ashby、Wiener与Willems的关系（62% - 70%）
- 对批评的回应： 主持人朗读了一位听众的评论，该评论质疑Raginsky将“传统控制论范式”定义为信息处理，并询问Willems与Ashby的区别。
- Wiener vs. Ashby： Raginsky澄清，Wiener的控制论确实是经典的输入-输出反馈模型（传递函数），涉及信息处理。而Ashby更早地使用了状态空间模型，但并未充分发展状态反馈的概念。
- Willems vs. Ashby： Willems的独特之处在于他对“状态”概念的深刻反思。他认为“状态”不是系统的固有属性，而是系统表征的属性。一个“最小状态”是将所有对未来行为无差异的过去轨迹归为一类得到的标签。
- 状态的作用： 状态是预测未来行为和指导控制所必需的记忆摘要。但Willems指出，除非你能打开系统查看内部，否则状态只是你选择如何测量系统的一个属性。这触及了“二阶控制论”的核心。
- 状态空间的实用性： 尽管如此，不同的状态描述（如“模态形式”）在解释现象（如麻醉引起的脑电同步/去同步）时非常有用，但在设计系统时可能效率不高，会影响可控性等特性。
第五部分 对智能、AGI与Turing测试的批判性反思（70% - 85%）
第（十）部分 什么是智能？一个难以捉摸的概念（70% - 75%）
- 智能的定义模糊： Raginsky坦言他不知道智能的真正含义，认为它是一个非常可塑的概念，尤其在认知科学中。
- 对任务导向定义的批评： 他不认同John McCarthy将智能简化为解决各种任务的能力。他认为当今AI公司将一切都量化为任务列表的做法是有害的。
- 控制论的视角： 从控制论角度看，智能关乎“有效互动”和“连贯性”。“连贯性”是一个整体属性，指系统各部分相互预设、协同以实现目标和价值。例如，互联网作为一个系统，对用户是连贯的，但对视其为社会不稳定因素的人而言就是不连贯的。
- 结论： 判断一个AI系统是否智能，很大程度上取决于观察者的视角和目标。控制工程并不适合回答“什么是智能”这种根本性问题。
第（十一）部分 AGI是一个不连贯的概念（75% - 80%）
- AGI定义的“变色龙”性质： Raginsky认为AGI（通用人工智能）甚至ASI（超级智能）的定义在不断变化，且存在根本性问题。
- 思想实验的缺陷： 典型的AGI思想实验（想象一个与我们世界完全相同，但多了一个超级智能系统的世界）是站不住脚的。因为这个超级智能的存在会引发法律、经济、家庭关系等所有方面的连锁反应，使这个“可能世界”变得完全不可想象和不连贯。
- 经济价值的不可靠性： 将AGI定义为“在经济上有价值的任务上超越人类”同样有问题，因为“经济价值”本身是开放且不稳定的社会安排。
- 结论： 基于以上理由，Raginsky认为AGI不是一个连贯的概念。相比之下，谈论特定领域的专长智能更有意义，比如一只苍蝇躲避拍子的能力。
第（十二）部分 对Turing测试的再思考：语言的局限与历史语境（80% - 88%）
- 对Turing的误解： Raginsky认为很多人误读了Turing 1950年的论文。Turing本人对意识问题不可知论，并特意反驳了“需要意识才能智能”的论点。因此，用Turing测试来争论AI是否有意识是不诚实的。
- 语言中心主义的局限： Turing测试最大的问题是过分聚焦于语言和文本。Raginsky引用William Calvin的观点，认为语言能力可能源于更基本的、用于规划和排序行动的神经架构（如投掷石块）。这个架构极其灵活，可以被诗歌、音乐、艺术等文化形式所利用。
- 更广阔的智能图景： 智能不应仅限于语言。例如，视觉-语言-行动模型（VLA）在没有语言的情况下也能展现智能行为。Turing将智能局限于文本交互，在今天看来是过时的。
- Turing的历史贡献： 尽管如此，Turing在当时试图通过“操作化”定义来绕开意识的争论，有其历史意义。但我们现在不应再以此为标准。
第六部分 对其他理论及未来的看法（88% - 100%）
第（十三）部分 对“大一统理论”的怀疑：主动推理与感知控制理论（88% - 95%）
- 对“大一统理论”的普遍怀疑： Raginsky对所有声称能解释一切的“大一统理论”都持怀疑态度。
- 对主动推理的评价： 他认为主动推理有点接近“万物理论”。它的问题是，基本原理（如自由能原理）和近似计算方法混杂在一起，让人难以分辨哪些是核心理论，哪些是辅助假设。它更像是一个有用的“元理论”框架，提供了马尔可夫毯等好概念，但有时为了拟合数据而显得像在添加“本轮”。
- 对感知控制理论（PCT）的评价： Raginsky认为PCT的基本主张——“有机体控制的是他们对世界的感知，而非世界本身”——是正确的，也与Gibson的“感知系统”观点相符。它作为一个组织性原则和隐喻是有用的，但一旦试图用它做出精确的定量预测，就可能出现问题。
- 内部模型与物理耦合： 他以平衡感为例，说明身体硬件（半规管）本身就是环境的“模型”，这是一种物理耦合，而非符号表征。这提醒我们，不要将“内部模型”的比喻过度延伸。
第（十四）部分 最后的思考：被动控制、计算隐喻与告别（95% - 100%）
- 大脑中的被动控制器？ 当被问及大脑中是否存在类似压力阀的“被动控制器”时，Raginsky不确定，但猜测可能是大脑本身的架构，或者消化系统（尽管有肠脑轴使其复杂化）。他认为，将一切视为计算是有问题的，比如“消化系统在计算什么？”
- 计算隐喻的边界： 大脑的活动可以用计算或控制的视角来看待，但这并非唯一的描述方式。Turing本人在提出图灵机时也明确指出，某些信息来源不应该被建模为计算。
- 行星运动的类比： 我们可以用微分方程模拟行星运动，并能加速预测，但这并不意味着行星自己在解方程。同样，大脑的计算模型很有用，但不能等同于大脑的运作方式。
- 告别： 主持人感谢Raginsky的分享，对话在愉快的氛围中结束。
Top comments (0)