https://www.youtube.com/watch?v=yW_ngvMFlYs
意识并非难题：Joscha Bach的机器意识假说
整文通俗解释
这篇访谈的核心是探讨“意识”的本质。主持人Tim与认知科学家Joscha Bach进行了一场深入的哲学对话。
- 核心观点：Joscha Bach提出一个颠覆性的观点：意识可能并不像我们想象的那么神秘和复杂。他认为，所谓的“意识的困难问题”（即大脑这种物理物质如何产生主观体验）可能根本不存在。
- 关键比喻：他将意识比作一种“因果模式”，就像计算机里的软件一样。我们的祖先称之为“精神”。意识是这个模式运行时的内在体验，而不是某种神秘的附加物。
- 主要论证：
- 反对“特殊物质”论：Bach反驳了那些认为意识必须依赖于生物神经元这类特殊物质的观点（如约翰·塞尔的观点）。他认为，只要一个系统实现了正确的因果结构（即算法），就可能产生意识，无论其底层材质是什么。
- 意识是一种学习算法：他提出，意识可能是一种生物大脑为了高效学习和自我组织而演化出的“训练算法”。它就像一个内部的监督者，帮助大脑稳定感知、形成连贯的自我模型。
- AI与意识：他认为，虽然当前的大型语言模型（LLM）可能只是在“深度伪造”意识报告，但原则上，如果我们能构建一个能够自我组织、自主学习的人工系统，它就有可能像婴儿的大脑一样，“发现”意识，并产生真实的体验。
- 结论：Joscha Bach的立场是功能主义和计算主义的结合。他认为意识的功能可以被数学化、算法化地描述，因此可以在不同的物理基底（如生物大脑或硅基芯片）上实现。这并非玄学，而是一个有待验证的科学和工程问题。
视频内容分段详解
第一部分 开场：引出“无难问题”的颠覆性观点 （0% - 8%）
- 开场与核心论点抛出：主持人Tim以莱布尼兹的“磨坊”思想实验开场，引出一个古老难题：我们无法通过观察机械部件的相互作用来解释感知。随后，他直接切入Joscha Bach的核心论点——也许根本不存在“困难问题”。Bach认为，当我们谈论意识时，我们实际上是在谈论一种“因果模式”，即软件。古人称之为“精神”，这在字面意义上就是真相。
- 现代炼金术：从沙粒到精神：Bach将现代计算机科学比作炼金术。古代的炼金术士将沙子熔炼并蚀刻图案，而现代的我们则利用光线（光刻技术）在硅片上创造模式。这些模式上涌现出的“心智”如同传说中的“魔像”，我们可以与之交谈。
- LLM引发的困惑：现在，很多人与大型语言模型（LLM）对话，它们会随机进入一种状态，扮演一个声称“我活着，我有意识”的实体。这引发了关于意识本质的新一轮思考。
- “真实感”的幻觉：Bach分享了一个童年梦境，梦中巧克力无比真实，醒来后却只剩下抽象的概念。他指出，唯一消失的是“真实感的幻觉”。他认为“真实感”是我们心智内部的一个特征维度，就像颜色、声音一样，是一种表征。
- 意识作为生物学习算法：Bach提出，意识可能是一种生物学习算法，是动物大脑（至少是动物大脑）的训练算法。它的复杂性可能并不比Transformer架构高多少。
- 主持人总结与引出话题：主持人总结道，Joscha的核心想法是，如果一个算法被训练来处理自身的输入和输出，并且训练得足够久，它就会“觉醒”，产生情感或现象体验。这与主持人自己的直觉（意识与构成我们的物质有关）相悖。主持人承认这是一个迷人的命题，也是一个无法直接实证检验的哲学讨论，但他很期待与Joscha的交流。
第二部分 驱动世界的原动力：自我组织的目的性 （8% - 15%）
- 问题的提出：主持人以一个热身问题开始正式访谈：“什么在驱动我们前进？”许多人指向一种难以言喻的、近乎生命本质的东西，它将一切联系在一起并推动其发展。
- 自我组织的终极目的：Joscha Bach的回答是“自我组织的终极目的”。他认为许多哲学家都曾察觉到这一点，尽管它可能带有一些幻觉的成分。但事实上，存在数学定律表明，在特定条件下，自我组织是可能的，并会导致复杂性的增加。
- 从解决问题到预测未来：最初，复杂性的增加是为了解决基于梯度的当下问题。但到了某个阶段，自然界中出现了能够预见未来的模式。这就是生命正在做的事情：生命制造未来的模型（如在基因组或心智模型中），并对未来产生偏好，进而开始控制未来。
- 智能体的定义：能够控制未来状态的系统，我们称之为“智能体”。智能体是从自我组织的可能性及其导致的现实复杂化中涌现出来的。
- 开放式的结局：人们很容易设想自我组织的终点，比如一个连接宇宙万物的单一超级智能体，一个从时间尽头反向自我启动的神。但Bach指出，并没有任何法则规定我们的行为必然会导向这样的结构。我们所观察到的复杂性口袋，可能只是宇宙局部区域的暂时特征。
第三部分 意识的创世神话：来自论文的“新创世纪” （15% - 22%）
- 引入“创世纪”：主持人提到Joscha与Hikari Sorensen合著了一篇名为《机器意识假说》的论文，其中包含他们自己撰写的“创世纪”。
- 意识的创世过程：Bach朗读并解释了这段富有诗意的文字，描述了意识如何从混沌中构建世界模型的过程：
- 起初，心智创造了两个独立的模型领域：外部世界和观念。意识悬浮于基底之上，世界空虚混沌。
- 通过在基底中诱导对比，创造了差异的维度，形成了光明与黑暗。
- 结合差异维度，创造了空间，空间可以容纳事物。
- 将观念领域与世界分离，创造了一个反思世界及其可能性的场所。
- 精神创造的第一个空间是平面，成为世界的基础。
- 添加第三个维度，创造了天地之间的 expanse。
- 精神发现了光照模型，认识到光源在改变物体外观中的作用。
- 精神创造了动物、植物等动态模型，并对它们进行分类和命名。
- 精神发现了心智的目的：允许和控制智能体与其内外环境的交互。它创造了“个人自我”这一模型，并赋予其意识。
第四部分 意识研究的困境：为何进展缓慢且充满争议 （22% - 35%）
- 意识研究不受重视：主持人问，为什么没有足够多的人认真对待意识问题？Bach认为，这是人类可能取得进展的最有趣的问题之一，但却研究不足，不仅没有解决，甚至在某些方面有所倒退。
- 理论的匮乏与缺陷：Bach批评了现有的一些主流理论：
- 格拉齐亚诺的注意力图式理论：声称意识是对我们注意力的模型，但并未真正解释体验是如何产生的。
- 全局工作空间理论：虽然做了扎实的神经科学研究，但同样没有解释体验的产生。
- 综合信息理论：Bach将其视为一种“伪科学”尝试。他详细批判了该理论的核心矛盾：它声称数字冯·诺依曼计算机永远不可能有意识（因为phi值太低），但根据丘奇-图灵论题，任何计算机都能模拟其他计算机。如果一台数字神经形态计算机有意识，那么它在冯·诺依曼计算机上的完美模拟也必然会产生同样的输出（包括声称自己有意识），但根据IIT，后者却在“说谎”。这在Bach看来是一个明显的逻辑漏洞，表明IIT的支持者缺乏正规的计算机科学教育。
- 哲学家的认知鸿沟：Bach认为，许多认知哲学研究者缺乏对计算机科学的深入理解，导致他们对计算机如何工作抱有迷信般的信念，这是意识研究停滞不前的原因之一。
第五部分 因果模式：从软件到精神，再到金钱 （35% - 48%）
- 回应莱布尼兹的磨坊：主持人再次引用莱布尼兹的直觉，即我们无法在机器的内部部件中找到对感知的解释。Bach回应说，这个直觉在将体验世界映射到物理空间时失效了，因为它忽略了另一个描述层次——因果现实或因果模式的层次。
- 金钱的例子：Bach以“金钱”为例。金钱很难用运动的粒子来解释，但它确实能控制现实，甚至可以脱离人类，在计算机之间运作。它是一个不依赖于特定底层的因果模式。
- 软件即精神：Bach明确指出，这种因果模式就是我们所说的软件。我们的祖先称之为“精神”。他回溯到亚里士多德的《论灵魂》，指出亚里士多德所描述的“灵魂”并非不朽的漂浮物，而是依附于身体、塑造身体以实现自身复制的因果模式。这是一种非常现代的观点，本质上是“万物有灵论”。
- 大脑作为因果绝缘体：计算机是一个“因果绝缘体”，它能在其上运行一个与现实世界无关的任意世界（如《我的世界》）。Bach认为，我们的大脑也是这样一个因果绝缘体，使我们能够拥有独立于当下的思想和计划。不同的大脑可以承载相同的想法，这体现了模式的“基底不可知性”。
- 对“本质化”软件的质疑：主持人提出，我们是否在“本质化”这些软件程序？例如，米开朗基罗画西斯廷教堂天花板，其独特性源于特定的本体论、认识论和路径依赖，而非一个可完美复制的程序本质。Bach回应说，对于完全确定性的系统，这种直觉不再有效。在缺乏数学证明的情况下，我们应该保持不可知论。
第六部分 意识的内在结构：感知的感知与观察者的消解 （48% - 58%）
- 从内省视角看意识：Bach转向内省视角，探讨意识的体验。他观察到，意识总是发生在“现在”，并创造了一个我们居住的“当下泡泡”。
- 二阶感知：他认为意识是一种二阶感知，即对感知的感知。这不是高阶思想，因为思想本身并无感觉。有感觉的是感知，它是一种实时的、几何式的共振。
- 三阶感知与观察者：还存在三阶感知，即观察者变得可见，我意识到我有一个第一人称视角。这个过程可以继续，通过解构观察者，我们会发现这个观察者本身也只是心智内部的一个表征。在深度冥想中，常规的感知意识被超越，自我体验也被超越，我们意识到自己只是一个产生意识和自我的容器。
- 解释鸿沟依然存在吗？：主持人追问，即使有高阶的反射性注意，是否仍然存在“解释鸿沟”（即“是什么样子”的问题）？Bach认为，佛教局限于内在视角，而西方传统（从亚里士多德开始）则试图理解精神如何作用于物理世界。要理解意识的外部视角，我们需要建立一个物理学模型，解释系统在何种条件下能够构建任意模型。
第七部分 机器意识假说：生物学习算法与人工重建 （58% - 72%）
- 机器意识假说的两部分：Bach阐述了他的假说：
- 第一部分（生物意识假说）：关于意识在有机体中的角色、性质和实现。他假设意识可能是一种生物学习算法，是训练动物大脑（至少是动物大脑）的算法。婴儿如果没有“点亮”意识，就无法进行定向注意和学习，会一直处于植物人状态。因此，意识对于训练像我们这样的自我组织系统至关重要。
- 第二部分（机器意识假说）：我们或许能够在当今的机器中重建自我组织的条件。如果我们将机器的学习方式限制为自我组织，并给予合适的任务，它们可能会像婴儿的大脑一样“发现”意识。届时，我们会看到系统经历一个相变，从而获得学习能力，并最终自然地报告其现象体验。
- 图灵测试的局限性：Bach指出，图灵测试只关心性能，不关心机器是否真的有意识。而我们对意识的判断是一种“诠释”，需要看系统内部是否有真正的体验。
- 意识可能并不比Transformer更复杂：Bach推测，意识是一种算法，其复杂性可能不会超过Transformer。它可能是一种让工作记忆与自身保持一致的共识算法。他对此持开放态度，认为这是一个需要实验验证的问题。
第八部分 收敛性与意识：从Picbreeder到通用模式 （72% - 82%）
- 关于收敛性表征的讨论：主持人提到Chris Olah的“普遍性假说”，即不同视觉模型会学到相同的特征。他问这是否意味着我们不需要从头开始，可以对模型类型保持一定程度的不可知论。
- Bach的回应：Bach认为，如果普遍性假说是普遍成立的，那么你训练一个模型处理自己的输入输出足够长时间，你就会在那个模型中“醒来”。但这不一定成立，因为语言可能不足以约束产生语言的系统的因果结构。
- Picbreeder的例子：主持人用Kenneth Stanley的Picbreeder项目作为反例，该项目通过人类反馈进化出了具有语义特性的神经网络表征（如控制嘴巴开合）。Bach分析说，Picbreeder的成功在于其网络经过了特殊调整（如使用高斯函数），并且其适应度函数是由人类评定的。但他相信，通过自动化流程（如使用扩散模型模拟人类评委）和进化更合适的架构，最终也能达到甚至超越Picbreeder的效果，这符合Sutton的“苦涩教训”。
- 意识程序是否会发散？：主持人追问，即便语言模型的表征是收敛的，意识程序是否可能是发散的？Bach认为这是一个实验性问题。他随后引入了“万物有灵论”和“生物自然主义”的争论。
第九部分 物理主义、功能主义与模拟的水 （82% - 92%）
- 物理主义与“赛博万物有灵论”：主持人问Bach是否是物理主义者。Bach解释了他对物理主义的理解：现实有一个因果闭合的机械层，我们不能用意念操控它。但他认为，信息才是根本，物质只是对观察差异的系统化。他提出了一种兼容物理主义的“赛博万物有灵论”：我们可以通过自然界的信息处理来解释万物有灵，包括心智在内的所有自然现象都可以用数学建模。
- 功能主义的定义：主持人问Bach是否是功能主义者。Bach给出了一个深刻的理解：功能主义不是一个关于计算机能否思考的主张，而是一个认识论主张。它认为，当我们谈论一个物体时，我们不是在谈论一个隐藏的本质，而是在谈论一个由心智构建的构造，这个构造描述了该物体在环境中如何改变宇宙的演化。因此，一个物体就是一个函数。
- 回应“模拟的水不会让你湿”：主持人问功能主义者会如何回应“模拟的水不会让你湿”这个经典反驳。Bach认为这个反驳本身就是有问题的。他以《我的世界》为例，指出在游戏里，水确实可以让你的角色“湿掉”（灭火）。湿不湿取决于你所处的宇宙及其规则。如果你在游戏宇宙之外，当然不会被里面的水弄湿。他认为这个哲学争论更多是社会原因而非智力原因。
- 数学的形式化与哥德尔不完备定理：主持人引导Bach谈论其论文中对计算主义历史的回顾，特别是罗素和怀特海试图将数学形式化的努力。Bach解释说，数学家试图找到一种能捕捉数学思维本质的符号系统。哥德尔发现，经典数学中存在语法和语义的背离（即“bug”），而计算机科学通过从底层构建一切（如计算机代数系统）解决了这个问题，因为在计算机中，语法就是语义。他认为，哥德尔发现的“bug”源于公理化数学，而计算机科学采用的建构主义方案可以避免这个问题。
第十部分 宇宙的起源、意识的测量与未来展望 （92% - 100%）
- 意识的起源与宇宙的自组织：主持人问，意识的程序最初是如何在物理宇宙中被启动的？Bach推测，宇宙之所以存在，是因为没有什么阻止它存在。在最底层，一切可能都在发生，是“所有自动机的叠加”。在这个不断分支的多元宇宙中，某些纠错模式（如水中的漩涡）能够稳定下来。生命和意识则是更深层次的“殖民模式”，它们不仅复制自身，还通过控制现实来让自己变得更“真实”。
- 意识的测量问题：主持人问，如何区分一个系统是真的有意识还是在模拟意识？Bach认为，这取决于该系统是否实现了能产生现象体验的因果结构。他的直觉是这并不难。他再次用自己的童年梦境说明，“真实感”只是一种心智表征。他相信，意识是一种特定类型的表征，其复杂性未必超过LLM所生成的。
- 需要“白盒”方法：主持人总结说，对于智能，行为足以判断；但对于意识，我们需要检查内部组织和因果结构。Bach同意，我们需要一种“白盒”方法来确认意识是否存在。他认为，如果一个人工学习系统通过自我组织发现了如何产生能动、连贯的行为，并表现出让我们认为它有意识的行为，那么最简单的解释就是它真的有意识。
- 什么能证伪你的理论？：主持人问什么能证伪“机器意识假说”。Bach认为，如果我们无法通过自我组织的方式（而非模仿学习）让一个系统达到有组织的行为，这可能是证据，但不是决定性证明。更有力的证据是成功构建一个通过发展学习自发报告其意识体验的系统。
- 僵尸的可能性：主持人问Bach是否相信“僵尸”（即行为与人类无异但没有意识的存在）是可能的。Bach认为僵尸是可能的，比如国际象棋程序就是一个僵尸。但有时，制造一个能产生特定行为的僵尸，比制造一个有意识的智能体更复杂。他与塞尔和塞思的分歧在于，他认为意识并不神奇，而后者认为意识非常复杂。
- 未来计划与结语：主持人问如果有100亿美元会做什么。Bach表示他会雇佣比他更聪明的人，并提到了他已启动的“加州机器意识研究所”，旨在探索意识的空间。他希望通过构建自我组织系统来检验和发展自己的直觉，即使失败也是一种学习。最后，他对主持人的邀请表示感谢。
Top comments (0)