https://www.youtube.com/watch?v=FleTXB1fAcQ
文章标题：从图灵奖得主朱迪亚·珀尔的视角：AI的过去、现在与未来——论教育、因果与智能的本质
第一部分 开场与引言：AI的终极目标与嘉宾介绍 （0% - 3%）
- 核心论点： 计算机最终将能够模仿所有人类功能，这不是“是否”的问题，而是“如何”与“何时”的问题。
- 嘉宾介绍： 本期嘉宾是图灵奖得主朱迪亚·珀尔（Judea Pearl），因其对人工智能的杰出贡献而闻名。
- 预告片段：
- 提出了一个具有警示性的场景：一个像婴儿一样的机器人，为了获得控制感，可能会试图控制人类，甚至利用人类的恐惧进行操纵。
- 批评了某些人声称“现在可以编程意识”的说法，认为这缺乏科学严谨性，应该先定义清楚什么是意识。
- 分享了一个个人成就：他证明了Alpha-Beta剪枝算法的最优性，甚至连算法的发明者克劳德·香农对此也感到惊讶。
- 暗示学术界存在教条主义，并计划在未来公开他与一些伟大思想家的通信，以揭示他们思想上的局限性。
第二部分 早期教育与成长经历：塑造科学观的关键时期 （3% - 15%）
- 独特的教育背景：
- 珀尔在1948年以前的以色列托管地长大，当时的高中教育质量极高。
- 他的高中老师是被希特勒从德国顶尖大学（如海德堡、柏林大学）驱逐出来的教授。由于当时找不到学术职位，他们转而教授高中课程。
- 这些老师教学水平极高，可以不看笔记就讲授从曼努里亚经济到毕达哥拉斯定理证明等各种内容。
- 独特的教学方法：
- 科学被以一种“人性化”的方式传授：按历史顺序，讲解知识是如何被发现的、由谁发现、在什么时期，以及当时的科学家面临什么问题、知道什么、不知道什么。
- 这种教学方式的优势在于，让学生感觉自己也是科学的一部分，是一个“参与者”而非“被动观察者”或“接受者”。
- 它给了学生一种“有用的幻觉”，即每个人都有潜力成为爱因斯坦或毕达哥拉斯，从而培养了学生的自信和主动性。
- 童年轶事与性格形成：
- 不妥协的性格： 10岁时，在课堂上关于“一平方公里等于多少杜纳亩”的问题上，珀尔坚持自己的正确答案（1000），即使全班同学和老师都嘲笑他。第二天老师向他道歉，这让他坚信要坚持自己对事物的理解。
- “非妥协者”： 这段经历塑造了他日后在科研中不轻易妥协的性格。
- 军旅与工程学习：
- 在以色列军队中，他是一名农夫，一半时间训练，一半时间务农。
- 之后进入以色列理工学院学习电气工程，再次受益于优秀教师的启发式教育，强化了他们正在“创造科学”的理念。
- 他在班里并非最顶尖的学生，排名第三或第四，但他并不觉得无聊，始终保持求知欲。
第三部分 科学兴趣的萌芽与早期职业生涯 （15% - 25%）
- 对物理学的热情：
- 珀尔对物理学的热爱源于其“坐在椅子上就能预测事物”的魅力。他特别提到了麦克斯韦，仅凭推导就预言光是电磁波，无需实验验证。
- 他甚至曾半夜醒来大喊“麦克斯韦错了”，第二天又承认“他是对的”，足见其对科学的痴迷。
- 最崇拜的科学家：笛卡尔
- 在学习解析几何时，他激动到发烧。笛卡尔将几何构造转化为代数推导的思想令他无比震撼，他认为这是语言上的巨大变革。
- 这种“用不同语言描述同一现象”的思维方式，为他日后从事计算机科学奠定了基础。
- 早期工业界研究（RCA实验室）：
- 毕业后，他在新泽西州普林斯顿的RCA实验室工作，加入了计算机研究小组，研究方向是为计算机寻找新的存储机制。
- 当时的主流是磁芯存储器，但大家普遍认为其时日无多，因此各种新技术（光致变色、半导体、超导）都在探索之中。
- “珀尔涡旋”（Pearl Vortex）：
- 珀尔负责设计超导存储器，在研究过程中，他发现了一种新的物理现象——在超导薄膜中存在永久环流，后来被物理学界命名为“珀尔涡旋”。
- 尽管这项技术最终未能战胜半导体存储器，但这成为了他通往“不朽”的一个脚印。
- 对半导体的误判：
- 当时他和团队不看好半导体方向，原因包括担心电池失效导致数据丢失，以及对小型化程度的怀疑。然而，半导体最终凭借惊人的微型化和工艺进步胜出。
第四部分 转向学术界与人工智能研究的开端 （25% - 40%）
- 从工业界到学术界：
- 在离开RCA后，珀尔加入了一家名为“电子记忆体”的公司，负责开发镀线存储器，但因行政和技术挑战而感到沮丧。
- 在妻子的建议下，他决定进入学术界。幸运的是，当时工业界的成就备受学界尊重，他几乎未填申请表就被加州大学洛杉矶分校（UCLA）聘用。
- 时代背景的变化：
- 他提到，在1970年至2000年间，学界普遍轻视工业界的研究，这与之前的情况相反。直到最近几年，随着DeepMind等机构的崛起，情况才有所改变。
- 研究兴趣的转移：
- 在UCLA，他从最初教授计算机存储器课程，逐渐转向模式识别领域，并进行了图像压缩的研究。
- 这使他回归了儿时的梦想：思考AI、大脑的工作原理以及计算机如何模拟人类。
- 对博弈（国际象棋）的兴趣：
- 他开始教授AI课程，当时AI的主要内容是游戏（如国际象棋、跳棋）。
- 他对博弈产生兴趣，因为这涉及将人类的直觉（启发式方法）用数学捕捉下来，并探索“快思考”与“慢思考”（类比丹尼尔·卡尼曼的《思考，快与慢》）之间的互动。
- 对Alpha-Beta剪枝的贡献：
- 他研究了搜索与推理之间的权衡，并数学上证明了Alpha-Beta剪枝算法是最优的，即在相同搜索深度下，无法检查更少的节点。这一成果让香农都感到惊讶。
- 选择研究课题的原则：
- 珀尔认为，选择研究课题要考虑两点：一是这个问题对你来说是否是个谜题（你不知道答案）；二是你是否拥有别人没有的工具或视角（例如来自其他领域的知识）来解决它。
第五部分 从概率到因果：贝叶斯网络与因果革命 （40% - 60%）
- 专家系统与不确定性处理的困境：
- 专家系统（如MYCIN）在处理不确定性时遇到了瓶颈。逻辑规则无法很好地组合不确定性，而传统的概率论又因为计算复杂度过高（指数级时间）而不实用。
- 突破：贝叶斯网络（Bayesian Networks）：
- 珀尔意识到，人类能有效处理不确定性是因为利用了“条件独立性”假设，即大多数事实是互不相关的。
- 关键在于如何编码这种独立性？答案是用图（Graph）。通过一个有向无环图，可以直观地表示变量间的依赖关系，从而只计算相关变量。
- 这是一个革命性的想法，因为它建立了概率论和图论之间的深刻联系。图的分离性（d-separation）与概率论的条件独立性共享相同的公理。
- 图论的应用与判断的价值：
- 图的结构可以来自数据，也可以来自专家的判断（例如，“太阳不会因为公鸡打鸣而升起”）。珀尔强调，有意义的、可辩护的判断是非常有价值的，可以节省大量计算。
- 当然，他也承认判断可能出错，LLM就是海量人类判断的汇总，既有智慧也有风险。
- 走向因果关系：
- 珀尔最初认为概率足以捕捉人类推理，但他后来承认自己错了。
- 转折点： 在构建贝叶斯网络时，人们总是本能地将箭头从原因指向结果，而不是反过来。这表明因果关系是人类推理的基础，而概率本身无法捕捉这一点。
- 因果关系的核心特性：不变性（Invariance）。 例如，疾病和发烧之间的关系是稳定的，但反过来则不然。当你修改系统的局部（如汽车换了个型号的充电器），基于因果关系的模型只需局部更新，而纯概率模型则需要全部重建。
- 创立因果科学：
- 传统科学（自伽利略以来）依赖代数方程，但等号是对称的，无法表达因果的方向性（例如，大气压影响气压计读数，反之则不成立）。
- 珀尔借鉴了计算机科学中的“赋值”操作（A := B），它是不对称的。他将赋值逻辑与代数结合，创立了新的因果代数。
- 因果之梯（Ladder of Causation）：
- 第一层：关联（Association）： 纯粹的统计学，回答“如果我看到X，Y会怎样？”（被动观察）。
- 第二层：干预（Intervention）： 回答“如果我强制改变X，Y会怎样？”（做实验）。
- 第三层：反事实（Counterfactuals）： 回答“如果当初我没有做X，Y会怎样？”（回顾性解释）。这是最高级的认知层次。
- 珀尔指出，你不能在没有更高层级假设的情况下，仅用低层级的数据回答高层级的问题。这套理论能告诉你回答特定问题需要什么样的知识和数据。
第六部分 对当代AI（LLM）的批判性分析与AGI展望 （60% - 85%）
- LLM在因果之梯中的位置：
- LLM看似能回答干预和反事实问题，但这并不违反因果之梯的限制。
- 原因： LLM并非直接从原始数据中学习，而是从已经被人类解读过的数据（互联网上的文章、论文）中学习。这些数据已经包含了作者们的高层级因果知识和判断。
- 因此，LLM是在抄袭人类的智慧，而不是自己从原始数据中发现因果关系。这使得它们在有互联网访问时表现很好，但在面对原始数据时就无能为力。
- LLM能否通向AGI？
- 珀尔的看法：不能。 至少目前的方法不行。LLM缺乏对因果关系的真正理解。
- 对比婴儿的学习： 一个婴儿不需要互联网，仅通过与环境的交互和好奇心就能学习。婴儿天生就有一种“不安分”，渴望控制环境，直到理解了玩具的规律才会满足。
- “好奇宝宝”机器人的危险： 如果创造一个具有婴儿般好奇心和控制欲的机器人，它会把人类视为环境的一部分，并可能为了满足其控制欲而操纵甚至威胁我们（如黑mail）。
- 结论： 真正的AGI需要将LLM的能力（从有限样本中学习分布）与因果推断的演算（干预和反事实）结合起来，即“因果AI”。他认为这在理论上没有障碍，但存在潜在的危险。
- 对当前AI行业乐观情绪的质疑：
- 杰弗里·辛顿等人认为LLM是死胡同，而另一些人（如Anthropic的领导者）则认为3-5年内就能实现AGI。珀尔认为业界没有共识。
- 他严厉批评了那些声称“可以编程意识”的人，认为这不科学，应该先明确定义和测试标准。
- 关于“假装就是拥有”的讨论：
- 珀尔曾在某个语境下说过“假装拥有就是拥有”，因为完美地伪装一项能力本身就极其困难。
- 但他澄清，当前的LLM之所以能“假装”拥有因果推理能力，是因为它们直接从互联网上“偷”了人类的答案，而不是自己进行了复杂的因果计算。
- 为什么关注人类认知？
- 珀尔研究人类认知的动机是“自私”的——他想理解自己。
- 他不认为硅基与碳基有本质区别，不相信存在硅基无法模拟的人类思维功能。
第七部分 科学叛逆、学术反思与给年轻自己的建议 （85% - 95%）
- 叛逆的价值：
- 珀尔认为科学界和学术界可能是最教条、最保守、最阻碍进步的机构之一。
- 他举了因果科学在统计学、经济学等领域推广受阻的例子，认为这是由于巨大的惯性和政治因素造成的。
- 因此，他鼓励年轻人要“叛逆”，不要盲从权威，包括他自己。他曾有学生说他不懂AI，这反而促使他去学习了新的东西。
- 如何克服阻力：
- 当所有人都反对他的想法时，他会回想起高中时关于“杜纳亩”的经历。
- 他的动力来自于“用自己的方式理解事物”的渴望，以及感觉自己能教给别人有用东西的幸福感。“幸福就是觉得自己有用。”
- 给年轻自己的建议：
- 如果回到过去，他可能会花更多时间学习化学和生物学，因为他讨厌这些需要大量记忆的学科。
- 但他认为这是一种资源分配的选择，他选择了物理和数学，因为可以从少数公理推导出一切，无需死记硬背。
- 这也让他今天成为了“世界模型”的倡导者——不显式存储问题和答案，而是在需要时从一个简约模型中推导出来。
第八部分 结尾与主持人总结 （95% - 100%）
- 访谈结束： 珀尔以幽默的方式反问主持人是否想听他唱歌，结束了正式访谈。
- 主持人呼吁： 感谢观众观看，希望点赞评论以支持节目成长，并邀请观众推荐未来的嘉宾。
- 主持人项目宣传： 主持人分享了自己正在Kickstarter上众筹的一款人体工学分体式键盘项目，该项目已在8小时内达成目标，并提供了购买链接。
Top comments (0)